Google・Amazon・Meta・Microsoftは、AI回答を出す「推論」専用の独自チップを開発しました。同じ計算を何億回も繰り返す推論は、汎用GPUより専用チップの方がコストと消費電力を大幅に削減できるためです。NVIDIAの学習用チップは引き続き使いつつ、推論では自社設計を並行運用します。
構造で言うと(投資家向け)も見る
推論が2026年に全AI計算の約2/3を占める中、ハイパースケーラはNVIDIA依存を部分的に解消するため推論特化ASICを内製化。ASIC市場は2026年に+44.6%成長し、GPU+16.1%の約2.8倍。設計はBroadcom・Marvellが大半を担い、ASICサーバーは全体の27.8%に到達する予測。NVIDIAはVera Rubinで推論でも対抗するが、学習の牙城は揺るがない。
なぜクラウド大手はNVIDIAと並行して独自チップを必要とするのか
は、と根本的に異なる計算です。学習は数週間〜数ヶ月の集中的な処理で、原則として一度しか行いません。一方、推論は「ユーザーが質問するたびに答えを出す処理」であり、AIチャットへのメッセージ送信も、検索の補完候補も、すべて推論が動いています。デロイトの分析によれば、AI推論は2023年に全AI計算の約3分の1を占めましたが、2026年には約3分の2に拡大するとされます(Deloitte)。
NVIDIAのH100やBlackwellは学習用に最適化された汎用GPUで、高い精度で大量の計算をこなす能力を得意とします。しかし推論に必要なのは反対の性質です。つまり、計算の精度をあえて落として桁違いの回数を安くさばく処理と、KVキャッシュ(過去の文脈を保存するメモリ領域)への高速アクセスです。同じGPUをそのまま使えば、コストの多くが「使われない汎用性」に消えます(Global X ETFs)。
加えて価格交渉力の問題があります。NVIDIAが推論市場でも90%超のシェアを持つ状態では、大手クラウド各社はチップ1枚あたりの単価をほとんど動かせません。しかし、自社を保有すれば、推論ワークロードをNVIDIA依存から切り離せます。
4社の独自AIチップは何が違うか
| 会社 | チップ名 | 主な用途 | 設計体制 |
|---|---|---|---|
| TPU v7 Ironwood(Cloud Next 2025発表) | 推論・学習の両用 | Google内製設計 | |
| Amazon | Trainium 2(学習)/ Inferentia 2(推論) | 学習と推論で分担 | Annapurna Labs(自社子会社) |
| Meta | MTIA v2(Meta Training and Inference Accelerator) | 推論特化 | Broadcom受託 |
| Microsoft | Maia 100(Azure AI Accelerator) | 推論 | Marvell支援 |
GoogleはTPU v1を2016年に社内限定で投入したのが最初で、クラウド大手の中で最も歴史が長いです。Amazon Web ServicesはAnnapurna Labs(2015年に約10億ドルで買収した自社子会社)が設計し、学習専用のTrainium 2と推論専用のInferentia 2を使い分ける体制を持ちます(Amazon Web Services)(Google Cloud)。
MetaのMTIAは推論に特化した設計で、同社の膨大な推薦アルゴリズム(ReelsやフィードのランキングAI)の処理コストを削減するために開発されました。MicrosoftのMaia 100はAzure上でのOpenAI推論基盤として活用されます。
【2026年7月追記】この列に、ついにOpenAI自身が加わりました。2026年6月24日、OpenAIとBroadcomは共同開発した初の推論特化チップ**「Jalapeño」**を公開し、2026年末までの初期導入を目指すと発表しています。一般的なAI用GPU比で約50%のコスト削減をうたい、提携全体では合計10GW分の計算基盤構築が目標です。詳細は「OpenAI初の自社チップ「Jalapeño」が動き出した」で解説しています(OpenAI・Broadcom)。
ASIC設計は誰が担うか:BroadcomとMarvellの役割
Google・Meta・Microsoft等の独自チップの実際の設計は、設計受託の大手であるBroadcomとMarvellが大半を担います。ハイパースケーラが「どんな処理をどんな効率で動かすか」の仕様を定め、実際の回路設計から製造用の最終データの仕上げまでは、これらの専門ファームが手がける構造です。製造はTSMCなどのが受け持つ「4者協力型」が主流になっています。
TrendForceの予測によれば、AI向けのサーバー市場は2026年に前年比**+44.6%成長**します。対してNVIDIA GPUサーバーの成長は+16.1%にとどまり、ASICの成長速度はGPUの約2.8倍です。ASICサーバーはサーバー市場全体の27.8%を占めるとされます(Introl / TrendForce)。
推論がメモリを食いつくす理由
エージェントAIや長文脈のAIチャットは、過去の会話履歴を「KVキャッシュ」としてに保存し続けます。1セッションが長くなるほど、KVキャッシュがの容量と帯域を消費します。「エージェントAI時代に推論チップが急成長した理由」で詳しく解説したとおり、GPUの演算能力よりメモリの帯域・容量が律速になりやすいです(Global X ETFs)。
これが推論専用の設計方針にも反映されます。演算能力を最大化するより、推論で必要な読み書きのパターンに最適化したメモリ構成と、精度を落として効率を上げる演算に特化します。「GPU・CPUとAI推論の違い」で示したとおり、推論は学習とは必要なハードウェア特性が根本的に異なります。
さらに「エージェントAI時代のCPU復権」で論じたとおり、AIエージェントはオーケストレーション(手順の段取り)でCPUを多く使います。CPU対GPU比は学習時の1:8からエージェント運用では1:1に近づくとの分析があり、サーバー1台あたりの構成そのものが変わりつつあります(Computerworld)。
NVIDIAはどう応じているか
NVIDIAは2026年後半投入予定のVera Rubin NVL72で、推論性能を前世代Blackwellの最大5倍に引き上げ、トークン単価を最大10分の1に削減する計画です。4を288GB・帯域22TB/sで搭載し、推論の性能競争にも本格的に参入します(Tom's Hardware)。
学習においてはNVIDIAの牙城は揺るぎません。NVIDIAのデータセンター部門はFY2024に売上約475億ドル(前年比+217%)を記録しました。ハイパースケーラがASICで推論コストを削減しても、最先端の大規模学習はNVIDIA GPUクラスタへの依存が続きます。「HBMとCoWoSがAI半導体の供給を左右する理由」で詳述したとおり、最先端の積層とパッケージングはNVIDIAとTSMCの協力体制が前提です(NVIDIA / U.S. SEC)。
この記事のまとめ
- クラウド大手4社(Google・Amazon・Meta・Microsoft)はNVIDIA GPUを学習に使いつつ、推論用ASICを自社設計・並行運用する体制を整えました。
- 推論が2026年に全AI計算の約3分の2を占める見通しの中、推論コストのコントロールが経営課題になりました。
- AI ASIC市場は2026年に+44.6%成長(GPU +16.1%の約2.8倍)、ASICサーバーは市場全体の27.8%に拡大する予測。
- 設計の大半はBroadcomとMarvellが担い、製造はTSMCが受け持つ「4者協力型」が主流。
- NVIDIAはVera Rubin(2H2026)で推論でも対抗するが、大規模学習の主役は引き続きNVIDIA GPU。
この記事のまとめ
- クラウド大手4社(Google・Amazon・Meta・Microsoft)はNVIDIA GPUを学習に使いつつ、推論用ASICを自社設計・並行運用する体制を整えた。
- 推論が2026年に全AI計算の約3分の2を占める見通しの中、推論コストのコントロールが経営課題になった。
- AI ASIC市場は2026年に+44.6%成長(GPU +16.1%の約2.8倍)、ASICサーバーは市場全体の27.8%に拡大する予測。
- 設計の大半はBroadcomとMarvellが担い、製造はTSMCが受け持つ「4者協力型」が主流。
- NVIDIAはVera Rubin(2H2026)で推論でも対抗するが、大規模学習の主役は引き続きNVIDIA GPU。
よくある質問(FAQ)
Q.クラウド大手が独自AIチップを開発する理由は何ですか?+
主に3つの理由があります。①推論(AIが答えを出す処理)は1秒間に何億回も発生し、用途が決まっているため専用チップの方が大幅に低コスト・省電力で動かせます。②NVIDIAのGPUが90%超のシェアを持つ状態では価格交渉力がほぼなく、推論コストをコントロールできません。③長期的な供給安定性を自社で確保したい、という戦略的意図もあります。
Q.ASICとGPUは何が違うのですか?+
GPUは「何でもできる汎用チップ」で、学習・推論・グラフィックなど幅広い計算を高速にこなします。ASICは「1つの用途だけに特化した専用チップ」で、その用途に不要な回路を排除するため、同じ処理ならGPUより低消費電力・低コスト・高効率になります。ただし設計コストが高く、用途が変わると使えなくなる面もあります。
Q.NVIDIAのGPUはハイパースケーラの独自チップに置き換えられますか?+
学習(モデルを作る処理)については引き続きNVIDIA GPUが主役です。GPT-4クラスのモデルを大規模学習させるには数万基規模のGPUクラスタが必要で、ASICでの代替は困難です。推論ではASICへの移行が進んでいますが、NVIDIAもVera Rubinで推論性能を最大5倍に引き上げ対抗します。学習市場はNVIDIAが維持する構図が続く見通しです。
Q.BroadcomやMarvellはハイパースケーラとどういう関係ですか?+
BroadcomとMarvellは、ハイパースケーラが仕様を決めた独自AIチップの回路設計から、テープアウト(製造用の最終設計データを完成させる工程)までを受託する専門会社です。ハイパースケーラは「どんな処理をどんな効率で動かしたいか」を定義し、実際の半導体設計はこれらのチップ設計受託大手に委ねます。製造はTSMCなどのファウンドリが担当します。
用語集
- ASIC(カスタムチップ)/ Application-Specific Integrated Circuit
- 特定の用途だけに特化して作る専用チップ。汎用品より無駄がなく、決まった処理を安く・省電力でこなせる。
- 推論(インファレンス)/ inference
- 学習済みのAIを実際に使って答えを出す処理。質問に答える・文章を生成するなど、利用時の計算がこれにあたる。
- 学習(トレーニング)/ training
- 大量のデータからAIモデルを作り込む処理。膨大な計算力を一度に必要とし、巨大なGPUクラスタを使う。
- HBM/ High Bandwidth Memory
- DRAMを積み重ねて広帯域にした高性能メモリ。AI半導体とセットで使われる。
- ハイパースケール/ hyperscale
- クラウド大手(Google・Amazon・Microsoftなど)が運営する超大規模なデータセンター。
- CoWoS(コーワス)/ Chip on Wafer on Substrate
- GPUと記憶用のHBMなど複数のチップを、1枚の土台(インターポーザ)の上に並べて1つのパッケージにまとめるTSMCの先端パッケージング技術。
参考資料・引用元
- Why AI's next phase will likely demand more computational power, not less(2026予測)調査会社Deloitte(TMT Predictions 2026)(2026)— 使用箇所: 推論が全AI計算に占める割合 2023年約1/3→2025年約半分→2026年約2/3。推論特化チップ市場は2025年200億ドル超→2026年500億ドル超https://www.deloitte.com/us/en/insights/industry/technology/technology-media-and-telecom-predictions/2026/compute-power-ai.html
- Memory Is the New Bottleneck in AI Semiconductors調査会社Global X ETFs(2025)— 使用箇所: 大規模推論とエージェントAIではメモリが律速。長い文脈を保持するKVキャッシュがメモリ容量・帯域を消費し、HBM・3D積層DRAMの重要性が上昇https://www.globalxetfs.com/articles/memory-is-the-new-bottleneck-in-ai-semiconductors
- AWS Trainium and Inferentia AI Chips一次情報Amazon Web Services(2025)— 使用箇所: AWSはAnnapurna Labs(自社子会社)が設計したTrainium 2(学習特化)とInferentia 2(推論特化)を独自AIチップとして提供。NVIDIAのGPUと並行して学習・推論ワークロードを分担する体制https://aws.amazon.com/machine-learning/trainium/
- Google Cloud TPU(Trillium / Ironwood)一次情報Google Cloud(2025)— 使用箇所: Google Cloud TPU v7(Ironwood)はCloud Next 2025で発表。TPUはGoogleが2016年に社内投入(TPU v1)し、外部にはCloud TPUとして提供。推論・学習の両用。製造はTSMC(要確認)https://cloud.google.com/tpu
- Custom Silicon Inflection 2026 — Hyperscaler ASICs vs NVIDIA GPU(TrendForce予測の解説)調査会社Introl / TrendForce(媒体集計)(2026)— 使用箇所: ハイパースケーラのASICは2026年に+44.6%成長(GPUは+16.1%)。ASIC搭載AIサーバーは市場の約27.8%。NVIDIA推論シェアは90%超→2028年20〜30%との予測も(要確認)https://introl.com/blog/custom-silicon-inflection-2026-hyperscaler-asics-nvidia-gpu
- Enterprises need to think beyond GPUs for agentic AI, analysts say報道Computerworld(2026)— 使用箇所: エージェントAIはCPU比率を押し上げ、CPU:GPU比が学習時1:8から1:1に近づくとの分析。段取り(オーケストレーション)がCPU負荷の中心https://www.computerworld.com/article/4164488/enterprises-need-to-think-beyond-gpus-for-agentic-ai-analysts-say.html
- NVIDIA launches Vera Rubin NVL72 — up to 5x inference performance and 10x lower cost per token than Blackwell報道Tom's Hardware(CES 2026報道)(2026-01)— 使用箇所: NVIDIA Vera Rubin(2H2026) 推論性能5倍・トークン単価1/10(対Blackwell)。HBM4 288GB・帯域22TB/s搭載https://www.tomshardware.com/pc-components/gpus/nvidia-launches-vera-rubin-nvl72-ai-supercomputer-at-ces-promises-up-to-5x-greater-inference-performance-and-10x-lower-cost-per-token-than-blackwell-coming-2h-2026
- NVIDIA Form 8-K(四半期業績)一次情報NVIDIA / U.S. SEC(2024)— 使用箇所: NVIDIA データセンター部門 FY2024売上475億ドル(+217%)https://www.sec.gov/cgi-bin/browse-edgar?action=getcompany&CIK=0001045810&type=8-K
この記事をシェア
次に読む
コメント
GitHub アカウントでログインしてコメントできます。