生成AIは賢くなる一方で、莫大な電力を消費します。その原因は、実は計算の「速さ」ではなく、コンピュータの「構造」にあります。なぜ脳をまねると省電力になるのか。GPUがAIの主役になった理由を「CPUとGPUの違いは“手数”だった——GPUがAIの主役になれた理由」で確認しつつ、その先を見ていきます。
いまのコンピュータは『計算する部屋』と『記憶する部屋』が別々で、データを行き来させるたびに電気を使います。AIはこの行き来がものすごく多いので、電気を食います。人間の脳は、記憶と計算が同じ場所で起きていて、しかも必要なときだけ動くのでとても省エネ。これをまねたチップが、ニューロモルフィックです。
構造で言うと(投資家向け)も見る
本質は『データ移動のエネルギー支配』への対処。インメモリ/スパイキング方式でデータ移動を削り、推論の電力効率を桁で改善しうる。Intel Loihi・IBM NorthPoleが実証段階。障壁はソフトのGPU・行列演算前提のエコシステムで、汎用置換は遠い。現実解はエッジ推論・常時オンセンシングなど低電力が決定的に効く市場。MRAM等の不揮発メモリ素子との融合が鍵。
なぜ今のAIは電力を食いすぎるのか
AIが大量の電力を消費する根本原因は、計算する場所と記憶する場所が離れている「フォンノイマンの壁」にあります。
現在のコンピュータは、計算を担うプロセッサ(CPUやGPU)と、データを覚えておくメモリが、別々の場所に分かれています。何かを計算するたびに、メモリからデータを取り寄せ、計算し、また書き戻す——この往復が必要です。そのため、やのように膨大なデータを動かすAIでは、計算そのものより、この「データの運搬」に費やすエネルギーが大半を占めます。
道路をいくら太くしても(メモリの帯域を上げても)、往復そのものが多ければエネルギーは減りません。これがフォンノイマンの壁です。
脳をまねると、なぜ省電力になるのか
人間の脳は、このフォンノイマンの壁を持っていません。脳では、記憶と計算が同じ場所(シナプス)で同時に起きるため、データを遠くへ運ぶ必要がないのです。
しかも脳は、常にすべての神経が動いているわけではありません。必要なニューロンだけが、必要なときに信号(スパイク)を出して働きます。約20ワット——電球1個ほどの電力で、最新のAIに匹敵する情報処理をこなせるのは、この「記憶と計算の一体化」と「必要なときだけ動く」省エネ設計のおかげです。
ニューロモルフィックチップは、この2つの特徴をハードウェアでまねます。ニューロンとシナプスに相当する素子を多数並べ、脳のようにスパイクで情報を伝える(スパイキングニューラルネットワーク)ことで、消費電力を大きく抑えることを狙います。
インメモリ・コンピューティングとは何か
ニューロモルフィックの中核アイデアが、インメモリ・コンピューティングです。これは、記憶する場所(メモリ)の中で計算もしてしまう方式を指します。
データをわざわざプロセッサまで運ばず、メモリのその場で計算を済ませれば、フォンノイマンの壁による運搬の無駄を根本から減らせます。ただし、この実現には、記憶しながら計算もできる新しいメモリ素子が欠かせず、電子の磁気を使うMRAMなどの次世代メモリが候補になっています。MRAMの仕組みは「電子の“自転”を使う半導体が、電源を切っても記憶を保つ」で詳しく扱っています。
記憶と計算を一体にするこの発想は、AIの推論を省電力にする最も有望な方向の一つです。
脳型チップは実用化しているのか
ニューロモルフィックチップは、まだ研究・実証の段階が中心です。ただし、有望な成果は次々に出ています。
IntelはLoihi(ロイヒ)2という研究チップと、それを多数つないだ大規模システムHala Pointを開発し、特定のAI処理でGPUより大幅に高い電力効率を示しました(Intel Labs)。
IBMもNorthPole(ノースポール)という推論用チップで、演算とメモリを同じチップ内に密に配置し、GPUを大きく上回る電力効率を報告しています(IBM Research / Science誌)。
課題は、ソフトウェアです。現在のAIモデルや開発ツールは、GPUの行列計算を前提に作られています。脳型チップはこの前提と異なるため、既存の資産をそのまま動かせません。そのため当面は、端末側(エッジ)の省電力AIや、常時センサーを動かす用途など、低消費電力が決定的に効く分野から実用化が広がる見込みです。AI推論に特化したチップの動向は「AIエージェントが動くほど、効くのはGPUより「メモリと段取り」のチップだった」とあわせて読むと理解が深まります。
この記事のまとめ
- ニューロモルフィックは、脳(ニューロンとシナプス)の仕組みをまねたチップでAIを省電力に動かす方式。
- AIが電力を食う根っこは、**計算と記憶が離れた“フォンノイマンの壁”**で、データの運搬がエネルギーを浪費する。
- インメモリ・コンピューティングは記憶の中で計算し、この運搬の無駄を減らす中核アイデア。
- Intel LoihiやIBM NorthPoleが特定のAI処理でGPUより高い電力効率を示している。
- ソフトがGPU前提のため全面置き換えは時間がかかり、当面はエッジの省電力AIなど特定用途から広がる。
この記事のまとめ
- ニューロモルフィックは、人間の脳(ニューロンとシナプス)の仕組みをまねたチップで省電力に計算する方式。
- AIが電力を食う根っこには、計算と記憶が離れた“フォンノイマンの壁”があり、データの運搬がエネルギーを浪費する。
- インメモリ・コンピューティングは記憶の中で計算し、この運搬の無駄を減らす中核アイデア。
- Intel LoihiやIBM NorthPoleが特定のAI処理でGPUより高い電力効率を示している。
- ソフトがGPU前提のため全面置き換えは時間がかかり、当面はエッジの省電力AIなど特定用途から広がる。
よくある質問(FAQ)
Q.ニューロモルフィックコンピューティングとは何ですか?+
ニューロモルフィックコンピューティングとは、人間の脳の神経回路(ニューロンとシナプス)の仕組みをまねて設計したチップで計算する方式です。脳のように、必要なときだけ信号を出す(スパイクする)省電力な動作を目指します。膨大な電力を消費する現在のAIへの、有力な解の一つとして研究されています。
Q.フォンノイマンの壁とは何ですか?+
フォンノイマンの壁とは、計算する場所(CPU/GPU)と記憶する場所(メモリ)が離れているために、データの行き来に時間とエネルギーが浪費される問題です。現在のコンピュータはこの2つが分かれた構造で、AIのように大量のデータを動かす処理では、計算そのものより『データの運搬』が電力消費の大半を占めます。
Q.インメモリ・コンピューティングはどう解決するのですか?+
インメモリ・コンピューティングは、記憶する場所(メモリ)の中で計算もしてしまう方式です。データを遠くのプロセッサまで運ばずにその場で処理するため、フォンノイマンの壁による無駄を大きく減らせます。ニューロモルフィックチップの多くが、この『記憶と計算の一体化』という発想を取り入れています。
Q.ニューロモルフィックチップは実用化していますか?+
まだ研究・実証の段階が中心です。IntelのLoihiやIBMのNorthPole、TrueNorthといった研究チップが、特定のAI処理でGPUより大幅に高い電力効率を示しています。ただし、既存のソフトウェアやAIモデルがGPU前提で作られているため、置き換えには時間がかかります。当面はエッジ(端末側)の省電力AIなど、特定用途から広がる見込みです。
用語集
- 推論(インファレンス)/ inference
- 学習済みのAIを実際に使って答えを出す処理。質問に答える・文章を生成するなど、利用時の計算がこれにあたる。
- 学習(トレーニング)/ training
- 大量のデータからAIモデルを作り込む処理。膨大な計算力を一度に必要とし、巨大なGPUクラスタを使う。
- データセンター/ data center
- 大量のサーバーをまとめて置き、24時間動かし続ける施設。クラウドやAIの計算はここで行われる。
参考資料・引用元
- Intel Loihi 2 / Hala Point ニューロモルフィック研究チップ一次情報Intel Labs(2024)— 使用箇所: スパイキングニューラルネットを模す研究チップLoihi 2・大規模システムHala Pointの省電力性https://www.intel.com/content/www/us/en/research/neuromorphic-computing.html
- IBM NorthPole 推論用インメモリ・アーキテクチャ一次情報IBM Research / Science誌(2023-10)— 使用箇所: 演算とメモリを同居させフォンノイマンのボトルネックを抑えるNorthPoleの推論効率(GPU比の電力効率改善)https://research.ibm.com/blog/northpole-ibm-ai-chip
この記事をシェア
次に読む
コメント
GitHub アカウントでログインしてコメントできます。