AIエージェントを動かすほど、GPUよりCPUの出番が増えていた

GPUがAIで主役になった理由は「CPUとGPUの違いは“手数”だった——GPUがAIの主役になれた理由」で扱いました。ところがAIエージェントが広がると、その図式に「CPUの復権」という続きが加わります。

AIエージェントとは何か

AIエージェントとは、人が一つひとつ指示しなくても、目標に向かって自分で手順を考え、道具（ツール）を使いながら作業を進めるAIのことです。たとえば「この資料を調べて要約して」と頼むと、検索する→結果を読む→必要なら別のツールを呼ぶ→まとめる、という複数のステップを自分でつないで実行します。

ここがふつうのチャットAIとの違いです。一問一答なら「考えて答える」だけですが、エージェントは「考える」と「動く」を何度も往復します。そして、この往復の部分こそがCPU向きの仕事なのです。

なぜ段取りはGPUより CPUが得意なのか

GPUは、同じ計算を一度に大量にこなす「手数」が武器でした。AIが文章を考える推論の中身は同じ形の計算の繰り返しなので、GPUとかみ合います。

一方、エージェントの「段取り」はまったく性質が違います。どのツールを使うか決める、外部サービスの応答を待つ、条件によって処理を分岐させる、前のステップの結果を次へ渡す——どれも枝分かれが多く、順番に判断していく処理です。これは並列向きではなく、複雑な手順を速くさばくCPU（中央演算処理装置）の得意分野です。同じ計算の大量繰り返しではないため、GPUの数千コアはここでは活きません。

CPU対GPUの比率はどう変わるのか

Computerworldが伝えるアナリストの分析では、CPU対GPUの比率は学習時の約1対8から、エージェントAIの運用では1対1に近づくとされます。学習では圧倒的にGPUが多く要りますが、エージェントを動かす段階では、段取り（オーケストレーション）を担うCPUの負担が一気に増えるためです（Computerworld）。

これは「GPUが不要になる」という話ではありません。AIが実際に考える推論は引き続きGPUの仕事です。エージェントは「考える部分（GPU）」と「段取りする部分（CPU）」を何度も行き来するため、両方が要る。ただし、その比率でCPU側が重くなる、ということです。

それでもメモリとGPUが要る理由

また、エージェントが長く動くほど、途中の文脈（これまでのやり取りや作業の状態）を保ち続ける必要があります。この状態を蓄えるメモリ（KVキャッシュ）が容量と帯域を食い、いまやHBMなどメモリが性能の律速になっています。詳しくは「AIエージェントが動くほど、効くのはGPUより「メモリと段取り」のチップだった」で扱っています（Global X ETFs）。

つまりエージェント時代のサーバーは、GPUだけでなくCPU・メモリ・ネットワークがそろって効く構成になります。AIチップの全体像は「AI半導体とは——AIを動かしているのは、ふつうのチップではなかった」もあわせてどうぞ。

半導体ビジネスはどう動くのか

背景には、AI計算の比重が「学習」から「推論」へ移っていることがあります。Deloitteは、AI計算に占める推論の割合が2026年に約3分の2へ達すると予測しています。そして、推論とエージェントが主戦場になるほど、求められるチップは多様になります（Deloitte）。

実際、用途を絞った専用チップ（ASIC）を自社開発するクラウド大手が増え、ハイパースケーラのASICは2026年に前年比+44.6%の成長が見込まれています（GPUは+16.1%）。「AI＝GPU」という一強の図式は、CPUの復権やASICの台頭とともに、少しずつ多様化へ向かっているのです（Introl / TrendForce）。

この記事のまとめ

• AIエージェントの仕事の多くは並列計算ではなく「段取り」で、これはCPUが得意。
• ツール呼び出し・結果待ち・分岐・ステップ連結はGPU向きではない。
• アナリストはCPU対GPU比が学習時1:8からエージェント運用で1:1に近づくと指摘。
• ただしGPUが不要になるのではなく、推論そのものは引き続きGPUの仕事。
• GPU以外（CPU・メモリ・ネットワーク）の重要性が増し、AI半導体は多様化へ向かう。