AIデータセンターを制したGPUは、2枚のダイを貼り合わせた半導体だった

NVIDIAブラックウェルとは何か

NVIDIAブラックウェル（Blackwell）とは、2024年3月にNVIDIAがGTC（GPU Technology Conference）で発表したデータセンター向けGPUアーキテクチャの世代名称だ。前世代「Hopper（H100・H200）」の後継であり、製品の中核はB200 GPUと、それをGrace CPU（Arm Neoverse設計）と組み合わせたGB200 NVL72システムだ。B200 GPUは208億個のトランジスタを集積し、TSMCの4nmクラスプロセス（N4P）で製造される。Blackwellという名称は、統計決定理論の先駆者であるアメリカ人数学者デービッド・H・ブラックウェルに由来する。

NVIDIAはH100でAIアクセラレータ市場を押さえたが、大規模言語モデル（LLM）のパラメータ数増加が止まらないなかで、さらなるメモリ容量と帯域幅の拡大が不可欠になった。Blackwellはその要求に応えるために設計を根本から見直した世代だ。

なぜH100の後継は2枚のダイを貼り合わせたのか

B200 GPUの最大の構造的特徴は、2枚のダイをNVLink-C2C（chip-to-chip）インターコネクトで接続した2ダイ構成だ。これはチップレット設計の考え方を応用したものだ。

なぜ分割したのか。半導体製造では、ダイが大きいほど製造工程で微細な欠陥に当たる確率が高くなり、歩留まりが悪化する。B200のようにトランジスタ数がH100の約80億から208億へと2.6倍に増えると、単一ダイに収めようとすると製造コストが急騰する。2ダイに分割することで1枚あたりの面積を抑え、歩留まりと製造コストを現実的な水準に維持できる。

2枚のダイをつなぐNVLink-C2Cは片方向900GB/sの帯域を持ち、GPU内部通信のボトルネックを最小化する。これはPCIeバスとは比較にならない速度であり、2ダイを実質的に1つのGPUとして動作させることを可能にしている。

HBM3Eとは何か、なぜ搭載量がH100の2倍以上に増えたのか

Blackwellが採用するHBM3Eは、DRAMダイを縦方向に8層積み重ね、B200 1基あたり192GBのメモリ容量と8TB/sの帯域幅を実現する。前世代H100（HBM3：80GB・3.35TB/s）と比べると、容量は2.4倍、帯域も2.4倍だ。

なぜこれほどメモリが重要なのか。大規模言語モデルの推論処理では、質問が届くたびにモデルの全パラメータをGPUメモリから読み出す。GPT-4相当のモデルは数百GBのメモリを必要とし、H100の80GBでは複数GPUに分散しなければならなかった。Blackwellの192GBはこの分散コストを削減し、レイテンシと電力効率を改善する。「AIのメモリが学習・推論の性能を決める仕組み」は別記事で詳しく解説している。

MicronはNVIDIA向けに12層HBM3Eを供給し、その電力効率が前世代比で約30%改善したと発表した。HBM3EはSK hynix・Samsung・Micronの3社が製造し、TSMCのCoWoS実装でGPUダイと同一パッケージに収める。

NVL72はなぜ72基のGPUを1ラックに詰め込んだのか

GB200 NVL72は、NVIDIAが設計したラックスケールのAIコンピュータだ。1ラックあたり72基のB200 GPUと36基のGrace CPUを搭載し、第5世代NVLinkが全GPUを130TB/sの帯域で相互接続する。第5世代NVLinkはGPU1基あたり1.8TB/sの帯域幅を持ち、18本のリンク（1本あたり100GB/s）で構成される。単一のNVL72ドメイン内では最大576基のGPUまでスケールアップできる。

AI学習や推論のボトルネックがGPU演算速度からメモリ帯域へ移行しつつある今、GPU間通信の速度がモデル並列化の効率を左右する。「1ラックあたりの電力密度がどこまで膨らんでいるか」は、このNVL72の登場とともに業界の焦点になった。NVL72がこれほど多数のGPUを1ラックに収めた背景には、「NVIDIAが20年かけて構築したCUDAエコシステム」がある。競合のInfiniBandや汎用イーサネットでは同等の帯域を実現するためにラックをまたぐケーブル配線が必要だが、NVL72はNVLinkで完結させる。

なぜブラックウェルは液冷専用になったのか

B200 SXM（サーバー向け）のTDP（熱設計電力）は約1,000Wだ。前世代H100 SXMの700Wから約43%増加した。NVL72ラック全体では公称約120kWに達し、従来の空冷設備では排熱しきれない。

ラック電力密度が5〜10kWだった時代は、空調でサーバーを冷やせた。しかしNVL72の約120kWは同じ床面積あたりの発熱量が15倍以上になる。水は空気に比べ体積比熱が約3,500倍大きく、同じ体積でより多くの熱を運べる。液冷配管をGPUの直近に配置する「ダイレクト・トゥ・チップ液冷」だけが、この熱量を現実的なコストで処理できる。NVIDIAはBlackwellから液冷を事実上の標準とし、データセンターの設計が電力・冷却の両面で大規模な改修を余儀なくされている。

ブラックウェルはNVIDIAの業績をどう変えたのか

NVIDIAのFY2026（2026年1月期）データセンター売上は1,937億ドルに達した。FY2024（2024年1月期）の475億ドルと比べると、2年で約4倍の規模だ。この成長の大半はBlackwellプラットフォームの急速な出荷拡大が牽引した。

NVIDIAがここまでの規模の収益を上げられた背景のひとつが、2ダイ構造による製造コストの抑制だ。単一ダイでは実現が難しかった大容量メモリと高帯域を実現しつつ、歩留まりを現実的な水準に保てたためだ。次世代の「Vera Rubin（Rubin GPUは336億トランジスタ・HBM4最大288GB）は2026年後半から出荷が始まっており」、Blackwellとの世代交代が進む。

Blackwellの普及は「HBMサプライチェーン全体」の拡大も後押しした。SK hynix・Samsung・MicronがBlackwell向けHBM3Eを供給し、TSMCがCoWoS実装を担う構造は、AIインフラへの投資が半導体バリューチェーン全体に波及する典型例となった。

この記事のまとめ

• NVIDIAブラックウェルは2024年3月発表のGPUアーキテクチャで、B200 GPUとGB200 NVL72システムが中核。
• B200は208億トランジスタを2ダイ（NVLink-C2C）構成で集積し、単一ダイ時の歩留まり悪化を回避した。
• HBM3Eは192GB・8TB/sで、H100の80GB・3.35TB/sから容量・帯域ともに約2.4倍に拡大。
• NVL72は72基のGPUを第5世代NVLink（130TB/s）でつなぎ、576GPU規模へのスケールアップも可能。
• B200 SXMのTDPは約1,000WでNVL72ラック全体が120kW级に達し、液冷が不可欠な設計になった。
• NVIDIA FY2026のデータセンター売上は1,937億ドルで、2年で約4倍の成長をBlackwellが牽引した。