OpenAIのJalapeño、推論の電力効率でBlackwellを上回った条件

OpenAIは2026年8月25日、独自推論チップ「Jalapeño」の初の実測結果を公開した。OpenAIのベンチマーク資料 によると、InferenceXでGPT‑OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tを測定し、NVIDIAのGB200またはGB300を使った比較システムに対して、ピーク時の電力当たり処理量が1.5〜1.9倍、エンドツーエンドの待ち時間が1.7〜3.6倍良好だった。

ただし、JalapeñoがBlackwellを上回ったのは、約8,000トークンの入力と約1,000トークンの出力からなる単一ターンの推論を、公称パッケージ電力で正規化して比べた条件である。学習性能、ラック全体の実消費電力、長文・複数ターンの本番負荷、総保有コストまで含めてNVIDIAを上回ったという結果ではない。

優位とされた四つの指標

今回の比較では、総スループット、利用者当たりの生成速度、電力当たりスループット、待ち時間を分けて読む必要がある。総スループットはシステム全体が一定時間に処理できる量を示すが、同時接続を増やせば個々の利用者への応答が遅くなる場合がある。利用者当たりのトークン数と待ち時間は、そのトレードオフを別の角度から示す指標だ。

タイトルの「電力効率」が指す中心的な値は、mixed tokens per secondをキロワットで割ったピーク処理量である。GPT‑OSS 120BではJalapeñoの85,448に対してGB200は44,960、DeepSeek R1では19,641に対してGB300は11,781、Kimi K2.5では18,195に対してGB300は11,862だった。モデルごとに差はあるものの、公開された3試験ではJalapeñoが約1.5〜1.9倍となる。

応答性でも同じ方向の結果が出た。エンドツーエンドの待ち時間は、GPT‑OSSで1.03秒対1.80秒、DeepSeek R1で1.65秒対5.99秒、Kimi K2.5で1.56秒対5.31秒だった。したがって今回の主張は、最大処理量だけを競ったものではなく、一定の応答性を維持しながら電力枠をどれだけ有効に使えるかという評価である。

Blackwell比較を成立させた測定条件

3モデルはいずれも、名目上8k入力・1k出力の単一ターン負荷で測定された。Jalapeñoはsingle-token prediction（STP）で動作し、複数トークン予測、投機的デコーディング、prefillとdecodeを別々のチップ群に割り当てる構成を使用していない。一方、広い比較では各製品の有力な公開構成も参照されているため、すべてのソフトウェア条件を完全に統一したチップ単体の対決ではない。

電力効率の分母も、データセンターやラック全体で実測した消費電力ではない。各アクセラレーターの公称パッケージ電力を使い、Jalapeñoは700W、GB200は1,200W、GB300は1,400Wとして正規化された。OpenAIは試験時のJalapeñoの持続消費電力が550W以下だったとしているが、公開比較には700Wを採用している。

SemiAnalysisの検証記事 は、同社スタッフがOpenAIのラボで技術者とともにInferenceXの実行を確認した一方、掲載数値はOpenAIから提供され、InferenceXの全試験や長文・複数ターン向けのAgentXは実施していないと明記している。8k/1kの単一ターンでは表れにくいルーター、prefix cache、キャッシュ管理、オフロード処理の負荷が加われば、順位が変わる可能性がある。

特定モデル専用ではないが、最適化は必要

Jalapeñoは一つのOpenAIモデルだけに固定されたASICではなく、複数のモデルを扱う汎用推論アクセラレーターとして設計されている。今回、OpenAIのGPT‑OSSに加えてDeepSeek R1とKimi K2.5を同じアーキテクチャで動かしたことは、その対象が自社モデルだけではないことを示す。

もっとも、新しいモデルを無調整で高性能に実行できるわけではない。モデルファミリーごとに新しいカーネルと固有の最適化が必要であり、公開値はハードウェアだけでなく、コンパイラー、メモリー、ネットワーク、KVキャッシュの配置を含むシステム全体の成果である。チップの理論性能をそのまま実サービスの処理能力とみなすことはできない。

設計の狙いは、計算負荷が大きいprefillと、メモリー帯域が制約になりやすいdecodeを、均質なアクセラレーター群で処理することにある。モデル状態とKVキャッシュを処理場所の近くに保持し、コアやチップ間のデータ移動を抑えることで、高スループットと低待ち時間の両立を図っている。

NVIDIAの学習用GPUを置き換える結果ではない

Jalapeñoの主用途は、学習済みモデルに応答を生成させる推論である。今回のベンチマークには、大規模モデルの学習速度、学習時の相互接続性能、既存ソフトウェアとの互換性、障害対応や長期運用の安定性は含まれない。そのため、「Blackwell超え」をNVIDIAのGPU事業全体に対する勝利へ広げることはできない。

OpenAIも、Jalapeñoの導入後にNVIDIAなどのアクセラレーターを学習と推論の両方で広く使い続ける方針を示している。独自チップの当面の役割は、電力制約の厳しい自社推論の一部を専用基盤へ移し、計算資源の選択肢を増やすことにある。

世代差も重要だ。公開比較の相手はGB200とGB300を含むBlackwellだが、SemiAnalysisは、HBM4を採用するJalapeñoの技術世代に近い比較対象はRubinだと指摘している。Blackwellとの結果が正しくても、量産時点の最新NVIDIAシステムに対する優位まで確定したわけではない。

量産と本番負荷での検証が残る

Jalapeñoは実シリコン上でInferenceXを動かした段階にあるが、広く配備済みの製品ではない。TechCrunchの報道 では、OpenAIのハードウェア責任者Richard Hoが、2026年末の配備は「ごく少量」で、より大規模な導入は2027年になるとの見通しを示した。

今後確認すべきなのは、長いコンテキストや複数ターン、大規模な同時接続を含む負荷でも優位を維持できるかである。ラック全体の実測電力、稼働率、冷却やネットワークを含む費用、量産シリコンの安定性も、今回の結果からは分からない。

現時点で確認できる結論は限定的だ。Jalapeñoは3つの公開モデルを使った8k/1kの推論試験で、Blackwellシステムより高い公称電力当たりスループットと短い待ち時間を示した。一方、学習用GPUの代替や本番サービス全体でのコスト優位は、今後の配備データと同世代製品との比較を待つ必要がある。