AI半導体というとGPUばかり注目されますが、どれだけGPUが速くても、計算に使うデータを運ぶメモリが遅ければ性能は出ません。近年のGPU不足の本当の原因も、GPUではなくHBMとCoWoSの供給でした。この記事では、その2つの基礎をやさしく解きます。前提となるAI半導体そのものは「AI半導体の仕組み」で確認できます。
GPUを『超高速の計算工場』とすると、HBMは『工場のすぐ隣にある巨大な倉庫』です。倉庫が遠かったり小さかったりすると、いくら工場が速くても材料が届きません。HBMは倉庫を大きく近づけ、CoWoSは倉庫を工場の真横にくっつける技術です。
構造で言うと(投資家向け)も見る
AI半導体の性能ボトルネックはメモリ帯域に移り、HBMとCoWoSが供給制約の中心になりました。HBMはSK hynix先行のDRAM3社、CoWoSはTSMCが握ります。GPU出荷量はこの2つの増産ペースに律速されるため、メモリ・先端実装の能力増強が需給を読む鍵です。
なぜAIにHBMが必要なのか
AIの計算は、膨大なデータをGPUに次々と送り込み続ける作業です。ここで問題になるのが、メモリからGPUへデータを運ぶ「帯域」(一度に運べる量)です。GPUがどれだけ速くても、データの供給が追いつかなければ、GPUは手待ちになってしまいます。
この「データの渋滞」を解消するのが(High Bandwidth Memory=広帯域メモリ)です。
HBMとは何か(普通のメモリとの違い)
HBMとは、DRAMというメモリのチップを何段も縦に積み重ね、GPUと太く短い配線で直結したメモリです。普通のDRAMが平面に並んで細い線でつながるのに対し、HBMは積層して大量の配線で一気につなぐため、一度に運べるデータ量が桁違いに大きくなります。
その代わり、チップを正確に積み上げる必要があり、製造は難しく高価です。また、HBMはSK hynix、Samsung、Micronの3社が主要供給者で、特にSK hynixが先行しています。積層には精密な技術が不可欠で、関連する装置は「後工程装置とディスコ」、品質を保証する検査は「テスタとアドバンテスト」で扱っています。
CoWoSとは何か
どれだけ高性能なHBMを用意しても、GPUとの距離が遠ければ広帯域を活かせません。そこで使われるのが(Chip on Wafer on Substrate)です。
CoWoSは、GPUとHBMを1枚の土台(インターポーザ)の上に隣り合わせで載せ、極めて短い配線でつなぐTSMCの先端技術です。両者を密着させることで、HBMの広帯域を最大限に引き出します。これはもはや「実装」が性能を決める領域で、AI半導体が単なるチップ設計の勝負ではなくなったことを示しています。
なぜHBMとCoWoSがAI半導体の品薄を生むのか
GPU本体が作れても、HBMの供給とCoWoSの実装能力が足りなければ、完成したAI半導体は出荷できません。実際、近年のAI半導体不足の主因は、GPUそのものより、このHBMとCoWoSの生産能力でした。
つまりAI半導体は、設計(NVIDIA)・製造(「TSMC」)・メモリ(SK hynix等)・実装(CoWoS)の総合戦です。どこか一つが詰まれば全体が止まります。半導体産業全体の構造は「半導体まとめ・入門ロードマップ」で俯瞰できます。なお本記事は投資助言ではありません。
この記事のまとめ
- HBM(広帯域メモリ)は、DRAMを縦に積みGPUと直結したメモリ。一度に運べるデータ量が桁違いで、AI計算のボトルネックを解消する。
- CoWoSは、GPUとHBMを1つの土台に隣接して載せるTSMCの先端実装技術。短い配線でHBMの広帯域を引き出す。
- 近年のAI半導体不足の主因は、GPU本体よりHBM供給とCoWoS能力。性能と供給の両方を握る要所。
- HBMはSK hynix・Samsung・Micron、CoWoSはTSMCが中心。AI半導体は設計・製造・メモリ・実装の総合戦。
よくある質問(FAQ)
Q.HBMと普通のDRAM(メモリ)は何が違うのですか?+
HBM(広帯域メモリ)は、DRAMのチップを何段も縦に積み重ね、GPUと太い配線で直結したメモリです。普通のDRAMより一度に運べるデータ量(帯域)が桁違いに大きく、大量データを扱うAI計算のボトルネックを解消します。その分、製造は難しく高価です。
Q.CoWoSとは何ですか?+
CoWoS(Chip on Wafer on Substrate)は、GPUとHBMを1つの土台(インターポーザ)の上に隣り合わせで載せる、TSMCの先端実装技術です。両者を極めて短い配線でつなぐことで、HBMの広帯域を最大限に引き出します。AI半導体の組み立ての要です。
Q.なぜHBMとCoWoSがAI半導体の品薄の原因になるのですか?+
GPU本体が作れても、HBMの供給とCoWoSの実装能力が足りなければ完成品になりません。近年のAI半導体不足の主因は、GPUそのものより、このHBMとCoWoSの生産能力でした。性能と供給の両方を握る重要工程です。
Q.HBMは誰が作っているのですか?+
SK hynix、Samsung、Micronの3社が主要な供給者で、特にSK hynixが先行しています。CoWoS実装はTSMCが中心です。AI半導体は設計(NVIDIA)・製造(TSMC)・メモリ(SK hynix等)・実装(CoWoS)の総合戦になっています。
用語集
- HBM/ High Bandwidth Memory
- DRAMを積み重ねて広帯域にした高性能メモリ。AI半導体とセットで使われる。
- CoWoS(コーワス)/ Chip on Wafer on Substrate
- GPUと記憶用のHBMなど複数のチップを、1枚の土台(インターポーザ)の上に並べて1つのパッケージにまとめるTSMCの先端パッケージング技術。
- 後工程(OSAT)/ back-end / OSAT
- ウェハーから切り出したチップを検査・組み立て・パッケージする工程。
- パッケージング(先端パッケージング)/ advanced packaging
- 切り出したチップを基板に載せ、配線し、保護する工程。複数のチップを高密度につなぐ先端版もある。
- ウェハー/ wafer
- 半導体を作る土台となる円盤状のシリコン。ここに多数のチップをまとめて作る。
参考資料・引用元
- 4Q24 Global Top 10 Foundries Set New Revenue Record, TSMC Leads in Advanced Process Nodes調査会社TrendForce(2025-03-10)— 使用箇所: ファウンドリ市場シェア(4Q24) TSMC 67.1%・Samsung 8.1%・SMIC 5.5%https://www.trendforce.com/presscenter/news/20250310-12510.html
- Global Annual Semiconductor Sales Increase 25.6% to $791.7 Billion in 2025業界団体SIA(米半導体工業会)(2026-02)— 使用箇所: 世界半導体市場規模 2024年6,305億ドル・2025年7,917億ドル(+25.6%)・2026年約1兆ドル見込みhttps://www.semiconductors.org/global-annual-semiconductor-sales-increase-25-6-to-791-7-billion-in-2025/
この記事をシェア
次に読む
コメント
GitHub アカウントでログインしてコメントできます。