スマホに搭載されて7年——NPUが0.6TOPSから50TOPSへ成長した理由

NPU（ニューラルプロセッシングユニット）とはなにか

NPU（Neural Processing Unit）は、ニューラルネットワークの推論演算に特化した演算ユニットだ。CPUが「何でも処理できる汎用コア」であり、GPUが「並列計算を大量にこなすグラフィックス・AI学習向けコア」であるのに対し、NPUは「行列積（乗算＋加算）を高速かつ省電力に繰り返す専用回路」として設計されている。

スマートフォンやPCのSoC（System on Chip）には現在、CPU・GPU・NPUがひとつのダイに統合されている。使い分けは明確だ。OSや複雑なアプリの実行はCPUが担い、ゲームや動画処理・AIモデルの学習はGPUが担う。そしてカメラのリアルタイム顔認識、音声認識、リアルタイム翻訳、写真AIなどの「推論処理」はNPUが担う。

NPUの演算核となるのは、掛け算と足し算だけをひたすら繰り返す専用回路だ。ニューラルネットワークの推論は本質的に「重みと入力の行列積を繰り返す」だけの処理で、分岐や条件判断がほぼない。この単純な繰り返しをCPUで実行すると汎用コアの能力が無駄になり、GPUで動かすとデータセンター向けに設計された大電力回路が端末の電池を急速に消耗する。NPUはこの掛け算・足し算専用の回路を大量に並べることで、同じ電力でGPUの5〜10倍の推論スループットを実現する。

なぜCPUでもGPUでもなくNPUが必要なのか

ニューラルネットワークの推論は「巨大な行列積の連続」だ。たとえば画像認識モデルでは、入力画像の数値を重み行列と掛け合わせ、結果を整えて次の層へ渡す操作を何十層も繰り返す。このパターンはほぼ変わらず、CPUの得意とする「条件分岐」や細かな制御処理は必要ない。

CPUで推論を走らせると、多くの命令が「待ち時間」になる。GPUは行列積が得意だが、データセンター向けGPU（H100等）は500Wを超え、スマートフォンやノートPCでの常時利用には不向きだ。NPUは数W〜数十Wの電力で特定ワークロードをこなすよう回路を削ぎ落としたASICの一種であり、スマートフォンの電池寿命を保ちながらAI機能を提供できる。「GPUとCPUの違いの詳細はこちら」。

Apple A11 Bionicが2017年に変えたもの

2017年9月12日、AppleはiPhone 8と同時にA11 Bionicを発表し、スマートフォン向けSoC初のNPU「Neural Engine」を搭載した。2コアで構成されたこのNeural Engineの処理能力は0.6 TOPS（Tera Operations Per Second＝1秒間に約6,000億回の演算）だった。

この0.6 TOPSという数値は当時のソフトウェア要件に対して十分だった。Face IDは赤外線カメラが捉えた顔の30,000点の深度マップをリアルタイムに解析して本人確認を行う。A11以前は顔認識や音声認識をCPUで処理するか、一部をクラウドに委ねていたが、Neural EngineによってiPhone単体でミリ秒以下の応答が可能になった。

Appleはその後世代ごとにNeural Engineを強化した。2023年のA17 Proでは35 TOPSに達し、2024年のApple M4では38 TOPSのNeural Engineを搭載した。2025年の「M5（16コアNeural Engine搭載）」はさらなる性能向上を実現している。

AI PCとCopilot+：40TOPSが必須条件になった理由

2024年5月、MicrosoftはCopilot+ PCという新たなPC基準を定義した。その要件の核心はNPU単体で40 TOPS以上の処理能力だ。

この基準の意図は明確だ。Microsoftが搭載したいAI機能——画面上の操作を全記録して後から検索する「Recall」、リアルタイム翻訳・字幕、AIによる写真補正——はプライバシーと遅延の観点からクラウドではなく端末内で処理する必要がある。40 TOPSはこれらの機能をストレスなく動かす最低ラインとして設定された。

QualcommのSnapdragon X EliteはHexagon NPUで45 TOPSを達成し、Copilot+対応PCの最初の選択肢となった。AMDはRyzen AI 300シリーズ（2024年7月発売、XDNA2アーキテクチャ）で50 TOPSを実現し、IntelもCore Ultra 200V系列でNPU 48 TOPSを搭載した。

主要SoC NPU性能比較（2017→2025年）

7年で処理能力は約83倍に成長した。ただし、各社のTOPS値は測定条件（整数演算INT8か浮動小数点FP16か等）によって変わるため、異なるメーカー間の横比較は参考値として扱う必要がある。

オンデバイスとクラウドのAI——NPUはどこまで担うのか

「エッジAIとデータセンターAIの役割比較」でも解説しているが、オンデバイスとクラウドには明確な役割分担がある。オンデバイス（NPU）が優れているのは低遅延・プライバシー保護・オフライン動作の3点だ。顔認証・音声認識・リアルタイム写真処理のように、個人データを外部に送りたくない処理や、数十ミリ秒以下の応答が必要な処理はNPUが担う。

一方、クラウドAIが必要な場面も多い。GPT-4クラスの大規模言語モデルの実行や、最新ニュースへの対応など、数百GBのパラメータが必要なタスクはNPUでは非現実的だ。「AIデータセンターの推論需要は2026年に全AI計算の約2/3を占める見込み」であり、端末のNPUとデータセンターのGPU・ASICが役割を分担しながらAIエコシステムを支えていく構図が固まりつつある。

この記事のまとめ

• NPUはニューラルネットワーク推論の行列積に特化したASICの一種。CPUより汎用性は低いが、同じ電力でAI推論を5〜10倍効率的に処理する。
• 2017年Apple A11 BionicのNeural Engine（0.6 TOPS）が世界初のスマートフォン向けNPU。Face IDのリアルタイム顔認識に使用された。
• 2024年時点でApple M4（38 TOPS）・Qualcomm Snapdragon X Elite（45 TOPS）・Intel Core Ultra 200V（48 TOPS）・AMD Ryzen AI 300（50 TOPS）が主要NPU搭載チップをリード。
• Microsoft Copilot+ PCがNPU 40 TOPS以上を必須条件（2024年5月）に定め、PC市場でNPUが選定基準の核心へ。
• オンデバイス推論（プライバシー・低遅延）とクラウドAI（大規模モデル・最新知識）が相互補完。NPUは今後も端末AI機能の基盤として成長を続ける。