OpenAIの自社製AIチップ「ハラペーニョ」はNVIDIAより速いのか。公開されたベンチマーク数値を確かめる

まず初めに

「NVIDIAに頼らなくてもいい会社になりました」と胸を張るOpenAIだが、その舞台裏をのぞくと「NVIDIAも買い続けます」ときっちり付け加えているのが、なんとも正直というか、腰の引けた話である。自分で辛い(スパイシーな)チップを開発しておきながら、当面の主食はやっぱりNVIDIA製というのだから、踏み込みが甘いと言われても仕方あるまい。とはいえ、AI業界の主役級企業がこぞって「自前のチップを作る」方向に走り出したこと自体は、NVIDIA一強という長年の構図に、ようやく風穴が開き始めた合図と見てよさそうだ。※個人の感想です

何が起きているのか

OpenAIとBroadcomは2026年6月24日、両社が共同開発する初のカスタムAIチップ「Jalapeño」の存在を初めて公表していました。今回の発表は、その実機を使った初めてのベンチマーク(性能測定)結果の公開です。OpenAIは公式ブログで、公開されているベンチマーク手法「InferenceX」を使い、オープンソースの大規模言語モデル3種類(「GPT-OSS 120B」「DeepSeek R1 670B」「Kimi K2.5 1T」)を対象に、JalapeñoとNVIDIAのBlackwell世代チップ「GB300」を搭載したシステムを比較したと説明しています。

結果として、Jalapeñoは1秒間・1キロワットあたりに処理できる仕事量(スループット)で比較対象のシステムを1.5〜1.9倍上回り、応答が返ってくるまでの時間(レイテンシ)は1.7〜3.6倍短くなったとしています。利用者とやり取りしながら動くAIエージェントのような、応答速度が特に重要になる用途に限ると、性能差は2.1〜4.1倍に広がったとしています。

消費電力の面では、Jalapeñoのチップ1個あたりの定格電力は700ワットで、比較対象のGB300(1,400ワット)のちょうど半分です。ベンチマーク時の実測消費電力は550ワット以下にとどまったともしています。OpenAIによると、Jalapeñoの設計は、大規模言語モデルの推論処理に特有の2つの工程(計算量が多い「prefill」と、メモリの転送速度が重要になる「decode」)それぞれに最適化されており、チップ間でのデータのやり取りにかかる遅延を減らすため、モデルの状態やキャッシュデータを1つの連結されたシステム内にとどめる設計にしているといいます。辛味の配合を計算し尽くしたソースのような、緻密な設計というわけだ。

なお、今回のベンチマークはNVIDIAの最新世代である「Vera Rubin」ではなく、1世代前のBlackwell世代(GB300)を対象にしたものです。また、JalapeñoはAIモデルの「学習(トレーニング)」ではなく「推論」専用のチップであり、両者は異なる用途を担う設計です。OpenAIはJalapeñoを2026年末までに自社のデータセンター内に導入し始める計画で、すでに第2世代・第3世代の開発にも着手しているとしています。同社は、Jalapeño導入後もNVIDIAや他社製のチップの購入を続けるとしており、NVIDIA製品を完全に置き換える計画ではないと説明しています。

なぜ重要なのか

AIチャットサービスや検索、画像生成など、いま広く使われている生成AIサービスの多くは、「学習」を終えたモデルに新しい質問を投げかけて答えを引き出す「推論」という処理を、利用者からの問い合わせのたびに繰り返し実行しています。利用者が増えるほど、この推論にかかる電力とコストは積み重なっていくため、同じ答えをより少ない電力・より短い時間で返せるチップの存在は、AIサービスの運営コストや応答速度に直結します。

これまでAI向けの高性能チップ市場は、NVIDIAがほぼ独占的な地位を占めてきました。独自チップの開発に乗り出す動きはこれまでGoogleの「TPU」やAmazonの「Trainium」など一部の企業に限られてきましたが、生成AIサービスの最大手であるOpenAI自身が同様の道を選んだことは、AI業界の勢力図に影響を与える可能性がある動きとして、複数の海外メディアが報じています。

私たちへの影響

一般の利用者がJalapeñoというチップの名前を意識する場面はほとんどありません。ただし、ChatGPTをはじめとするAIサービスの運営コストが下がれば、利用料金の値下げや無料利用枠の拡大、応答速度の向上といった形で、間接的に利用者へ還元される可能性があります。逆に、AI企業間の開発競争が過熱することで、電力消費の大きいデータセンターの建設が加速し、周辺地域の電力インフラへの負荷が増すという指摘も、AI業界全体に対してかねてから存在します。

また、NVIDIA一強だった市場に競合の選択肢が増えることは、中長期的にはAIサービスを提供する事業者側の調達コスト低下につながる可能性があり、巡り巡ってAIを活用する中小事業者にとってもプラスに働く余地があります。

初心者が知っておくべきこと

「推論(すいろん)」とは、すでに学習を終えたAIモデルに対して実際の質問や指示を入力し、答えを出力させる処理のことです。これに対して「学習(トレーニング)」は、大量のデータをAIモデルに読み込ませて、その振る舞いを作り上げる処理を指します。ChatGPTに質問して答えが返ってくる、そのたびに行われているのが推論です。

「レイテンシ」とは、何かを要求してから応答が返ってくるまでにかかる時間のことです。AIチャットで質問を送ってから最初の一文字が表示されるまでの体感速度は、このレイテンシの長さに左右されます。

IT Postの見方

IT Postでは、OpenAIが自前のチップを持つ道を選んだこと自体は、AI業界全体にとって歓迎すべき変化だと考えます。NVIDIAの一強状態が続けば、AIチップの供給量や価格を事実上1社が左右する状態が固定化しかねず、それは巡り巡って、AIサービスを利用する私たち一般利用者が支払う料金にも跳ね返ってくるからです。競合が増え、価格競争が働く余地が生まれること自体は、利用者側にとって望ましい方向だとIT Postでは考えます。

一方でIT Postでは、「自社チップで置き換える」と言いながら「NVIDIAも買い続ける」という今回の発表の歯切れの悪さにも注目したいと考えます。本当に性能で上回っているなら、なぜ完全な置き換えに踏み切らないのか——その背景には、AIチップの量産体制を短期間で確立することの難しさや、特定の1社に生産を依存するリスクを避けたい事情があると推測されますが、OpenAI自身がその点を明確に説明しているわけではありません。華やかな数字の裏にある「据え置き」の部分にも、引き続き注目していく必要があるとIT Postでは考えます。※個人の感想です

今後どうなりそうか

OpenAIは2026年末までにJalapeñoを自社のデータセンターへ導入し始める計画で、すでに第2世代・第3世代の開発にも着手しているとしています。NVIDIAも決算発表を控えており、市場関係者はOpenAIの動きがNVIDIAの推論向けチップ事業にどの程度の影響を与えるかを注視しています。GoogleやAmazon、Metaなど他の大手IT企業も独自のAIチップ開発を進めており、AI向け半導体市場における「脱NVIDIA」の動きが今後さらに広がるかどうかが焦点になります。IT Postでは、Jalapeñoの実運用開始後の性能や、他社の独自チップ開発の進捗についても、続報があれば取り上げます。