AIサーバーラックの消費電力は10年前の7〜10kWから、最新モデル（GB200 NVL72）では約120kWに急増しました。電子レンジ（約1.5kW）80台分に相当します。空気では冷やしきれないため、液体を使った冷却装置が必須になっています。
構造で言うと（投資家向け）も見る
ラック電力密度は従来7〜10kW→2024年GB200 NVL72で約120kW（約15倍）。IEAはDC電力消費を2024年約415TWh→2030年約945TWh（+128%）と予測。液冷メーカー・CDUサプライヤー・電力インフラ整備事業者への需要波及が直接的に大きい。
なぜAIラックの消費電力は急増したのか
AIの処理性能を上げるための設計変更が、そのまま消費電力の急増につながった。半導体そのものの基礎から知りたい場合は「半導体とは何か」を参照してほしい。
やに使われるGPUは、大量の行列演算を同時並列で処理する専用プロセッサだ。
NVIDIA H100のTDP（熱設計電力）は700Wに達する。1ラックにH100を8枚搭載すると、それだけで5,600W＝約5.6kWになる。CPUや電源回路・ネットワーク機器を加えれば1ラック50〜80kWに到達する。
GB200 NVL72はこの集積をさらに極限まで押し進めた構成だ。1棚に72基のBlackwell世代GPUと、段取りを担う36基のCPUを詰め込む。各GPUはH100比で3.5倍の学習性能・推論性能はさらにその上を行く。
GPU密度が上がった結果として消費電力も公称約120kWに達した。電力の大半は膨大な行列演算を実行するGPUコアと、その演算を支えるが占める。
世代別に見るAIラックの電力推移
1ラックあたりの消費電力はAIの本格普及とともに段階的に跳ね上がってきた。
| 時期 | 代表的なシステム | 1ラックあたりの目安電力 |
|---|---|---|
| 2010年代前半 | 標準汎用サーバー | 5〜10kW |
| 2018〜22年 | A100/V100 搭載AIラック | 20〜50kW |
| 2023〜24年 | H100×8枚構成 DGXシステム | 50〜80kW |
| 2024〜25年 | GB200 NVL72（Blackwell世代） | 約120kW |
| 2026年〜 | Vera Rubin NVL72（Rubin世代） | 100%液冷設計 |
標準ラックは42Uの高さ（約185cm）に横幅19インチ（約48cm）という国際規格（EIA-310）の筐体だ。この規格は何十年も変わっていないが、その中に詰め込む発熱量はAI時代に入って急速に膨らんでいる。
120kWのラックを空冷で冷やせない理由
従来のは1ラックあたり8〜12kWの発熱を想定して空調設計されてきた。120kWを空気だけで取り除こうとすると、吹き付ける冷風の量が莫大になり、冷却自体に消費する電力が跳ね上がる。
データセンターの電力効率を示すが大きく悪化し、事業として成立しない水準に陥る。
が120kW超のAIラックに欠かせない理由は熱伝達の物理にある。水は同じ体積あたり、空気の約3,500倍の熱を蓄えられる。つまり同じ量の冷媒で除熱できる熱量が桁違いに多い。ダイレクト・トゥ・チップ方式——冷却液をチップ直下の冷却板に直接流す方法——は最大250kW級の発熱にも対応できるとされる。
各ラックにはが付属し、施設側の冷水系統とIT機器側の冷却回路を熱交換器で分離しつつ冷媒を循環させる。GB200 NVL72はこのCDUを前提とした設計で出荷され、空冷への後退が事実上できない構造になっている。
データセンターの世界電力消費が2030年に2倍になる
個々のラックの電力密度が上がるだけでなく、AIデータセンターの数そのものが急増している。IEA（国際エネルギー機関）の試算によれば、データセンター全体の電力消費は2024年の約415TWhから2030年に約945TWh（2倍超）へ拡大する見通しだ。AI特化型のデータセンターの増加分に限れば4倍超の伸びが見込まれている。
「グリッド接続の待ち行列」が各国で深刻化しているのも、この電力需要の爆発的な伸びが直接の原因だ。電力会社の送電網への接続申請が殺到し、承認を待つ期間が数年単位に及ぶケースが世界各地で増えている。「AI時代の電力危機」では、電力不足がデータセンターの立地選定をどう変えているかを詳しく解説している。
次世代Vera Rubin NVL72が示す方向性
GB200 NVL72の後継となるNVIDIA Vera Rubin NVL72は2026年後半から量産が始まる。Blackwell世代比で推論性能5倍・トークン単価10分の1を目指す設計で、100%液冷設計が前提とされている。
「NVIDIA Vera Rubin量産開始」で述べたように、Vera Rubin NVL72も72基のGPUと36基のCPUを1棚に集積する構成は変わらない。処理性能を大幅に高めつつもワットあたりの処理効率を改善しているが、絶対的な消費電力は高い水準を維持する見通しだ。処理能力と電力消費のトレードオフは、現在の半導体技術の物理的制約によるものだ。
「液冷データセンターの仕組みと普及」では、CDUや液浸冷却など各方式の特徴と、大手事業者の導入動向をまとめている。
この記事のまとめ
- 標準サーバーラックの消費電力は5〜10kWだったが、NVIDIA GB200 NVL72（Blackwell世代・2024〜25年）では公称約120kWに達し、約15倍の電力密度になった。
- 電力密度の上昇はGPU単体の高TDP化（H100で700W）と1ラックへの高密度集積（72枚搭載）が重なった結果であり、計算性能の向上とほぼ同義だ。
- 120kW超のAIラックは空冷では物理的に対応不可能で、液冷（CDUとダイレクト・トゥ・チップ方式）が必須となる。水の体積比熱は空気の約3,500倍で、最大250kW級の発熱も処理できる。
- IEAはデータセンターの世界電力消費が2030年までに2倍超（945TWh）になると予測しており、送電網への接続渋滞と電力インフラ整備が世界的な課題になっている。
- 液冷設備への対応が新規AIデータセンターの建設コストと立地選定を根本から変えており、液冷メーカー・電力インフラ・グリッド整備事業者への波及が直接的に大きい。
この記事のまとめ
- 標準サーバーラックは5〜10kWだったが、NVIDIA GB200 NVL72（Blackwell世代）では公称約120kWに達し、約15倍の電力密度になった。
- 電力密度の上昇はGPU単体の高TDP化と、1ラックへの高密度集積が重なった結果で、計算性能を上げることと電力を増やすことは現状ほぼ同義だ。
- 120kW超のAIラックは空冷では冷却不可能で、液冷（CDUとダイレクト・トゥ・チップ方式）が必須になっている。
- IEAはデータセンターの電力消費が2030年までに2倍超（945TWh）になると予測しており、送電網への接続渋滞が世界各地で起きている。
- 液冷設備への対応が、新規AIデータセンターの建設コストと立地選定を根本から変える要因になっている。
よくある質問（FAQ）
Q.AIサーバーラックはなぜ従来のサーバーより電力を大量に消費するのですか？＋
AIの処理を担うGPUは、大量の行列演算を並列実行する専用プロセッサで、1個あたりのTDP（熱設計電力）がCPUより桁違いに高い。NVIDIA H100の場合700Wに達する。さらにGB200 NVL72のように1棚に72枚のGPUを集積するため、1ラックあたりの合計電力が従来の一般サーバー（5〜10kW）の15倍超となる約120kWになる。
Q.AIラックに液冷が必要な理由は何ですか？＋
従来のデータセンターの空冷設計は1ラックあたり8〜12kW程度の発熱を前提にしている。120kWを空気だけで冷やすには膨大な冷風量が必要で電力効率（PUE）が急悪化する。水の熱容量は空気の約3,500倍あるため、液冷（ダイレクト・トゥ・チップ方式）なら最大250kW級の発熱も処理でき、高密度AIラックに唯一実用的な冷却手段となっている。
Q.データセンターの電力消費は今後どうなりますか？＋
IEA（国際エネルギー機関）の試算では、データセンターの電力消費は2024年の約415TWh（世界電力の約1.5%）から2030年には約945TWh（2倍超）に達する。AI特化型のデータセンターの増加分に限れば4倍超の伸びが見込まれている。送電網への接続申請が殺到し、数年待ちになる地域も出ており、電力インフラの整備が世界的な課題になっている。
Q.GB200 NVL72とVera Rubin NVL72は何が違いますか？＋
GB200 NVL72はNVIDIAのBlackwell世代GPU（2024〜25年）を72基搭載したラックシステムで、消費電力は公称約120kWです。Vera Rubin NVL72は後継のRubin世代GPU（2026年後半量産開始）を搭載し、GB200 NVL72比で推論性能5倍・トークン単価10分の1を目指す設計です。どちらも100%液冷設計です。
用語集
- PUE/ Power Usage Effectiveness
- データセンターの電力効率を表す指標。施設全体の消費電力をサーバーの消費電力で割った値で、1.0に近いほど無駄が少ない。
- 液冷（液体冷却）/ liquid cooling
- 空気の代わりに冷却液でチップを冷やす方式。発熱の大きいAIチップを冷やすために急速に普及している。
- CDU（冷却液分配ユニット）/ Coolant Distribution Unit
- 液冷で、サーバー側の冷却液と建物側の冷水を、熱交換器で分けてつなぐ装置。ポンプで流量や温度を制御する。
- HBM/ High Bandwidth Memory
- DRAMを積み重ねて広帯域にした高性能メモリ。AI半導体とセットで使われる。
- 推論（インファレンス）/ inference
- 学習済みのAIを実際に使って答えを出す処理。質問に答える・文章を生成するなど、利用時の計算がこれにあたる。
- ハイパースケール/ hyperscale
- クラウド大手（Google・Amazon・Microsoftなど）が運営する超大規模なデータセンター。
- ラック/ server rack
- サーバーを縦に積み重ねて収める棚。高さの単位は「U」（1U＝約4.4cm）で、42Uサイズが一般的。
- 学習（トレーニング）/ training
- 大量のデータからAIモデルを作り込む処理。膨大な計算力を一度に必要とし、巨大なGPUクラスタを使う。
- データセンター/ data center
- 大量のサーバーをまとめて置き、24時間動かし続ける施設。クラウドやAIの計算はここで行われる。
参考資料・引用元
- NVIDIA GB200 NVL72一次情報NVIDIA（2024）— 使用箇所: AIラックの代表例。1ラックに72基のBlackwell GPU＋36基のGrace CPU、第5世代NVLink 130TB/s、液冷設計。消費電力は公称約120kW（実装仕様では液冷115+空冷17=約132kW）https://www.nvidia.com/en-us/data-center/gb200-nvl72/
- Electricity Demand and Grid Impacts of AI Data Centers: Challenges and Prospects調査会社arXiv（査読前論文）（2025）— 使用箇所: ラック電力：従来7〜10kW、AI向けは30〜100kW超（NVIDIA GB200 NVL72で約120kW）https://arxiv.org/html/2509.07218v3
- The data center cooling state of play (2025): Liquid cooling is on the rise報道Tom's Hardware（2025）— 使用箇所: 2025年に液冷が主流化。ダイレクト・トゥ・チップは最大250kW級・空気の約1,000倍の除熱。空冷は8〜12kW想定https://www.tomshardware.com/pc-components/cooling/the-data-center-cooling-state-of-play-2025-liquid-cooling-is-on-the-rise-thermal-density-demands-skyrocket-in-ai-data-centers-and-tsmc-leads-with-direct-to-silicon-solutions
- Energy and AI（Executive summary）公的機関IEA（国際エネルギー機関）（2025-04）— 使用箇所: データセンターの電力消費は2024年約415TWh→2030年約945TWhへ2倍超・世界電力の約3%。AI特化型は4倍超にhttps://www.iea.org/reports/energy-and-ai/executive-summary
- Explaining Server Rack Dimensions業界団体TRG Datacenters / EIA-310（2024）— 使用箇所: ラックの標準寸法。1U=1.75インチ（44.45mm）、搭載幅19インチ、42Uが最も一般的（搬送・設置の上限として定着）https://www.trgdatacenters.com/resource/explaining-server-rack-dimensions/
- NVIDIA H100 Tensor Core GPU データシート一次情報NVIDIA（2023）— 使用箇所: H100 SXM5のスペック：FP32約67 TFLOPS・FP16 Tensor Core約1,979 TFLOPS・FP8 Tensor Core約3,958 TFLOPS・HBM3メモリ帯域幅3.35 TB/s・HBM3容量80GB・TDP 700W（要確認・NVIDIAの公式データシートを参照）https://www.nvidia.com/en-us/data-center/h100/
- Inside the NVIDIA Rubin Platform: Six New Chips, One AI Supercomputer一次情報NVIDIA Technical Blog（2026-01）— 使用箇所: Rubin GPUの336億トランジスタ・NVFP4 50PFLOPS推論/35PFLOPS学習・HBM4最大288GB/22TB/s・NVL72の72GPU/36CPU/260TB/s・Blackwell比で推論5倍/学習3.5倍/帯域2.8倍/トークン単価1/10という数値（要確認）https://developer.nvidia.com/blog/inside-the-nvidia-rubin-platform-six-new-chips-one-ai-supercomputer/
- NVIDIA CEO announces Vera Rubin chips are in full production during keynote報道DataCenterDynamics（2026-06）— 使用箇所: ジェンスン・フアンCEOによる量産（フル生産）入りの表明・出荷時期（2026年後半）・NVL72の100%液冷とモジュール設計（要確認）https://www.datacenterdynamics.com/en/news/nvidia-ceo-announces-vera-rubin-chips-are-in-full-production-during-ces-keynote/
この記事をシェア
次に読む
コメント
GitHub アカウントでログインしてコメントできます。