GPUだけ買ってもAIは働かない。ArmのCSS N4が狙う、エージェントの裏方仕事

まず初めに

AIと聞けばGPU。大きいGPU、たくさんのGPU、とにかくGPU。話を聞いていると、データセンターは巨大なグラフィックボードを床に並べれば完成しそうだ。

ところがAIが仕事を始めると、資料を探し、ファイルを開き、別のプログラムを動かし、結果を受け取る必要がある。主役が一人で舞台を成立させられないのと同じだ。Armは、その舞台裏にも仕事が増えると言っている。これは、GPUの照明がまぶしくて見落としがちな話だ。※個人の感想です

CSS N4は、半導体を作るための基盤

CSSはCompute Subsystemsの略です。CPUなどの計算部分を、顧客が独自の半導体へ組み込むための基盤として提供します。完成したPC向け製品を店頭で選ぶ場合とは異なり、主な相手は計算機や半導体を設計する企業です。

ArmはCSS N4について、1ダイあたり最大128コア、LPDDR6メモリー、PCIe Gen 7への対応を説明しています。コアこあはCPUの処理を担う単位です。メモリーは作業中のデータを置き、PCIeは周辺機器などとの接続に使います。計算部分だけでなく、データの出入りも設計の対象です。

同社はCSS N3に対する性能や効率の向上も掲げています。ただし、最大値の比較は、すべての用途で同じ速度差を保証するものではありません。実際の製品構成や動かすソフトウェアによって結果が変わるため、本記事では発表値を利用者の処理時間に直接置き換えません。

AIが道具を使うと、何が増えるのか

文章を生成するAIと、複数の作業を進めるAIエージェントえーあいえーじぇんとでは、処理の流れが異なります。エージェントはモデルの出力を受け、外部の道具を動かし、その結果を再びモデルへ渡すことがあります。モデルの計算だけで、仕事全体が完了するわけではありません。

Armが今回挙げているのは、データ検索、ツール呼び出し、データベースとのやり取り、複数のエージェントの連携などです。こうした周辺の処理にはCPUを使う仕事が含まれます。大量の計算を並列に進めるGPUと、さまざまなプログラムの実行を担うCPUの役割を、システム全体で組み合わせる必要があります。

たとえば、AIがプログラムの修正案を作った後、テストを実行して結果を読み、さらに修正する場合を考えます。テストを動かす時間が長ければ、文章の生成だけを速めても全工程は同じ割合では短くなりません。これは処理の構造を説明する例で、CSS N4での実測結果ではありません。

天才の返事が速くても、資料係が帰ってこなければ会議は進まない。

AGI CPUという名前と、AGIの実現は別

Armの同日の発表には、CSS N4と並んでArm AGI CPUも登場します。ここは二つを分ける必要があります。CSS N4は顧客が半導体を設計するための基盤です。一方、Arm AGI CPUは、Armが設計したCPU製品として以前から発表されています。

つまり、9月8日の文章に両方の名前があるからといって、AGI CPUそのものが同日に初登場したわけではありません。また、製品名にAGIと入っていても、あらゆる知的作業を人間のように処理する汎用人工知能の達成を証明するものではありません。名前は製品の識別と位置付けであり、能力の実証とは別です。

Armが提供する選択肢も、同社のCPUを使えばすべてのプログラムが無条件に高速になるという意味ではありません。既存ソフトとの互換性、移行に必要な作業、メモリーやネットワークの構成などが関係します。個別サービスの料金や、日本での採用製品の提供日は、そのサービスや製品の発表で確認する必要があります。

IT Postの見方――AIの速さは、いちばん遅い工程にも左右される

IT Postでは、今回の話をGPU対CPUの勝ち負けにするのは、もったいないと考える。見たいのは、仕事全体でどこに時間と費用を使っているかだ。GPUを増やしても、別の工程が詰まっていれば、利用者には速く感じられない。

たとえば、調査資料をまとめるAIなら、モデルが文章を考える前に、検索先へ問い合わせ、結果を受け取り、内容を整理する。外部の応答を待っている時間もあれば、手元で加工している時間もある。これらを一緒くたにして「AIが遅い」と言っても、改善する場所は分からない。

IT Postでは、導入側が見る数字も変わると考える。文章を何文字出したかに加え、一件の仕事を完了するまでの時間、同時に動かせる件数、完了一件あたりの費用が必要になる。部品の性能表から、仕事の成績表へ視点を広げたい。

ただし、CPUの重要性が増すという見方から、特定の企業が市場を独占すると決めることもできない。利用するソフト、既存設備、価格、電力、移行の手間で選択は変わる。Armの発表は、その競争に向けて設計と製品をそろえる動きとして読むべきだ。

日本の一般利用者がCSS N4を直接買う機会は限られる。それでも、その設計を使う製品がクラウドの裏側に入れば、業務AIの応答や提供費用に関わる可能性がある。影響は間接的で、直ちに料金が下がると約束されたわけではない。だからこそ、採用事例が出たときには実際の仕事での比較を見たい。

同じ料金でも、仕事が終わる速さは違う

IT Postでは、クラウド上の実行環境を比べる際、一時間あたりの料金だけでなく、同じ仕事に何時間かかるかを合わせたい。安い構成でも長く占有すれば費用は増える。速い構成でも、外部サービスの応答を待つ時間ばかりなら、高価な計算機を遊ばせることになる。

エージェントが複数の道具を使うと、こうした差が見えにくくなる。モデルの応答、ファイルの処理、テストの実行、通信の待ち時間を分けて記録できれば、CPUを強くする意味があるかを判断しやすい。今回のCSS N4を採用したという名前だけでは、その判断はできない。

移行の費用も忘れたくない。既存ソフトがそのまま動くか、必要な部品がそろうか、担当者が運用できるか。これらを含めて利益が出るなら、新しい基盤を選ぶ理由がある。半導体の世代名は入口にすぎない。利用する側が欲しいのは、新しい部品を使ったという名札ではなく、同じ予算と時間で仕事を多く終えられるという結果だ。

また、同時に動かす件数を増やしたときの遅さも見たい。平均が速くても、一部の仕事だけ極端に待たされれば、利用者は不安になる。IT Postでは、混雑したときにどこまで応答を保てるかも、エージェント用基盤の評価に含めたい。

AIの発表会には、主役のモデル名と巨大な性能値が並ぶ。だが、実際に働かせると、検索、保存、実行、通信といった裏方が一斉に必要になる。IT Postでは、CSS N4はその現実を示すニュースだと考える。優秀な頭脳だけ買ってきても、机も引き出しも電話もなければ仕事にならない。データセンターにも、同じ話がある。