Googleは第8世代TPUを「学習」と「推論」の2チップに割った。NVIDIA依存を削る一手

これまでGoogleのTPUは世代ごとに1種類でした。第8世代で初めて、Googleは「学習」と「推論」という2つの仕事を別々のチップに割り当てました。「GoogleもAmazonも、AIチップを自分で作り始めた」で見た自社チップ内製の流れが、ここで一歩進んだ形です。

何が起きたのか

2026年4月22日、GoogleはCloud Next '26で第8世代TPUを発表しました。最大の変化は、TPUを「学習用」と「推論用」の2つに分けたことです。

学習用が「TPU 8t」、推論用が「TPU 8i」です。Googleが学習と推論で別々のチップを作ったのは、これが初めてです。前世代の第7世代TPU「Ironwood（アイアンウッド）」は推論を意識した1種類でしたが、第8世代では役割をはっきり分けました。

TPU 8tは大規模モデルの学習に特化します。1つの「スーパーポッド」に9,600チップをまとめ、121 ExaFLOPS（FP4、低精度演算の単位）の演算性能と2ペタバイトの共有メモリを持ちます。前世代Ironwood比で、1ポッドあたりの演算性能を約3倍、性能あたりコストを最大2.7倍に高めました。

TPU 8iは推論に特化します。1チップに288GBのHBM（広帯域メモリ）3eと384MBのSRAM（チップ内の高速メモリ、前世代の3倍）を積み、前世代比で性能あたりコストを最大80%改善しました。Googleは「同じコストでほぼ2倍の処理量をさばける」としています。両チップとも、電力あたり性能はIronwood比で最大2倍に向上しています（Google）。

TPUとは何か

TPU（テンサー・プロセッシング・ユニット）とは、GoogleがAI処理専用に設計したカスタムAIチップのことです。AIの計算で多用される行列演算（テンソル演算）に特化しており、用途を絞り込む代わりに、その処理を最も安く・省電力にこなせるよう作り込まれています。

TPUは特定用途向けに設計された半導体、いわゆるASIC（特定用途向け集積回路）の一種です。汎用のGPUが「何でもこなせる手数の多いチップ」なのに対し、TPUは「AIの計算だけを徹底的に速くしたチップ」です。Googleは2015年から社内でTPUを使い始め、現在はGoogle Cloud経由で外部企業も利用できます。

Googleは自社では工場を持たず、設計だけを行い、製造はTSMCなどのファウンドリ（半導体の受託製造専門会社）に委託します。この「設計する会社」と「作る会社」が分かれる分業構造は、「NVIDIAは工場を持っていない——「設計だけの会社」と「作るだけの会社」に分かれた半導体の分業構造」で詳しく扱っています。第8世代の設計はBroadcom（ブロードコム）とMediaTek（メディアテック）が支え、製造はTSMCが担うとされます（要確認）。NVIDIAと同じく「自分で設計したチップを、TSMCで作ってもらう」立場です。

なぜ学習と推論でチップを分けたのか

学習と推論は、求められる性能がまったく違うからです。

学習とは、大量のデータからAIモデルを作り込む処理です。膨大な計算を一気に回す力と、チップ同士をつなぐ高速な通信が要ります。だからTPU 8tは、9,600チップを1つにまとめて巨大な計算をこなす方向に振っています。

一方の推論は、完成したモデルを使って実際に答えを出す処理です。ユーザーが使うたびに発生し、回数が桁違いに多いため、1回あたりのコストと電力効率が勝負になります。

特に、AIエージェント（自律的にタスクをこなすAI）が普及すると、推論の回数はさらに増えます。1つの質問に何度も推論を重ねるためです。TPU 8iが288GBという大容量メモリと性能あたりコストの改善を前面に掲げたのは、この「推論が大量に発生する時代」を見据えたものです。GoogleはこれをCloud Next '26で「エージェント時代のためのチップ」と位置づけました（Google Cloud Blog）。

なぜハイパースケーラは自社チップを作るのか

GoogleだけでなくAmazon・Microsoft・Metaも自社AIチップを作っています。理由はコスト・電力・最適化・供給確保の4点です。

第1にコストです。NVIDIAのデータセンター向けGPUは粗利率（製品を売った金額から製造原価を引いた利益の割合）が非常に高く、買う側はその利益分まで支払っています。だからこそ自社設計すれば、この上乗せを回避できます。しかも年間に大量のチップを回すハイパースケーラなら、巨額の設計費を十分に回収できます。

第2に電力です。AIデータセンターは電力が最大の制約になっており、専用設計すれば同じ処理を少ない電力でこなせます。

第3に最適化です。自社のモデルや処理パターンに合わせてチップを作れば、無駄な回路を削り、必要な部分だけを強化できます。

第4に供給確保です。GPUは慢性的に品薄で、NVIDIA一社への依存はリスクになります。だからこそ自社チップを持てば、調達を自分でコントロールできます。この4つの動機は「クラウド大手4社が独自AIチップを内製した理由、ASIC成長速度はGPUの2.8倍に」で見た構図と同じで、第8世代TPUはその最新の実例です。

ただし、これは「NVIDIAの本当の強さはGPUではなく、CUDAという「逃げられない仕組み」だった」で見たCUDAの囲い込みの裏返しでもあります。NVIDIAから完全に離れるのは難しく、だからこそ自社チップで「依存の度合い」を下げにいくのが現実的な戦略です。

今後どうなるか

第8世代TPUは「置き換え」ではなく「棲み分け」を前提にした一手です。

Googleは自社の生成AI「Gemini」の学習にTPUを使う一方、Google CloudではNVIDIA GPUも併売しています。多様なモデルを扱う研究開発にはCUDAエコシステムを持つGPUが強く、量が読める自社サービスの推論にはTPUがコスト・電力で有利だからです。つまり、両方を使い分けるのが基本シナリオです。

注目点は、TPU 8iの推論コスト改善が、外部企業の取り込みにつながるかどうかです。第8世代の両チップはGoogle Cloudで年内に一般提供される予定です（要確認）。推論コストが下がれば、AnthropicのようにGoogle Cloud上で大規模なAIを動かす企業が増える可能性があります。設計に新たにMediaTekが加わり、Broadcom1社体制が崩れた点も、カスタムAIチップ市場の競争が広がっている兆しです（CNBC）。

この記事のまとめ

• Googleは2026年4月のCloud Next '26で第8世代TPUを発表し、初めて学習用（TPU 8t）と推論用（TPU 8i）にチップを分けた。
• TPU 8tは1スーパーポッド9,600チップで121 ExaFLOPS（FP4）・2ペタバイトの共有HBMを持ち、前世代Ironwood比で性能あたりコストを最大2.7倍改善する。
• TPU 8iは1チップ288GBのHBM3eと384MBのSRAMを積み、性能あたりコストを最大80%改善、同コストでほぼ2倍の処理量をさばける。
• 学習と推論で要求が違うため専用設計に分けた。設計はBroadcomとMediaTek、製造はTSMCが担うとされる（要確認）。
• TPUはNVIDIA依存を削るハイパースケーラ共通の動きの一例で、GPUとは用途で棲み分けながらAIチップ市場の裾野を広げている。