OpenAI独自チップ、電力効率1.9倍―ただし比較条件に注意

OpenAIは2026年8月25日、独自のAI推論チップ「Jalapeño」の初回ベンチマークを公開した。Tom’s Hardwareの検証報道 によると、公開モデル3種を使った試験で、NvidiaのGB200・GB300システムに対するピーク時の電力当たりスループットは1.5〜1.9倍、エンドツーエンド遅延は1.7〜3.6分の1だった。

ただし、最大1.9倍はJalapeñoが常に1.9倍高速という意味ではない。GPT‑OSS 120BとGB200を公称パッケージTDPで正規化した特定条件の値であり、モデル、予測方式、電力を測る境界を変えると差も変化する。設備側ではアクセラレーター当たり1.18kW対2.55kWという比較が示され、GB300でmulti-token predictionを使う条件ではピーク効率差が約1.5倍まで縮んだ。

モデル別の効率は1.5〜1.9倍

試験にはSemiAnalysisの公開ベンチマーク「InferenceX」が使われた。公称8,000トークンの入力と1,000トークンの出力、single-token predictionという条件で、スループットと利用者が要求を送ってから応答を受け取るまでの遅延を測っている。

OpenAIのモデル別測定結果 では、比較対象と数値は次のように分かれる。mixed TPS／kWはピーク時の処理量を公称電力で割った指標である。

• GPT‑OSS 120B：Jalapeñoは85,448 mixed TPS／kW、GB200は44,960で約1.9倍。エンドツーエンド遅延は1.03秒対1.80秒で、Jalapeñoが約1.7倍低い。
• DeepSeek R1 670B：Jalapeñoは19,641 mixed TPS／kW、GB300は11,781で約1.7倍。遅延は1.65秒対5.99秒で約3.6倍低い。
• Kimi K2.5 1T：Jalapeñoは18,195 mixed TPS／kW、GB300は11,862で約1.5倍。遅延は1.56秒対5.31秒で約3.4倍低い。

効率の最大差はGPT‑OSS 120B、遅延の最大差はDeepSeek R1で記録されている。したがって、「効率1.9倍」と「遅延3.6分の1」は同じモデル、同じ比較ケースから得られた一組の結果ではない。また、数値はOpenAIとSemiAnalysisがOpenAIのラボで実施した測定に基づき、第三者の別環境で再現された結果ではない。

700W対1,400Wは実測消費電力ではない

主要グラフの分母は、Jalapeñoが700W、GB200が1,200W、GB300が1,400Wという公称パッケージTDPだ。製品間で基準を統一しやすい一方、試験中の実消費電力やデータセンター全体の負荷をそのまま表す数字ではない。

Jalapeñoの試験中の持続実測電力は550W以下だったが、主要比較ではJalapeñoだけを550Wとして再計算せず、各アクセラレーターの公称値を使っている。このため「700Wのチップが1,400Wのチップを上回った」という要約は定格値による正規化を示すもので、両システムが試験中に常時700Wと1,400Wを消費したという説明ではない。

設備全体で見る場合は、CPU、メモリー、ネットワーク、電源変換、冷却なども境界に入る。公開されたutility powerの比較でもJalapeñoの優位性は残るが、パッケージTDPだけで計算した倍率より差は小さくなる。データセンターの受電容量や運用費を評価する際には、チップのTDP、ワークロード中の持続電力、設備側の総電力を分けて扱う必要がある。

低遅延との両立はシステム全体の結果

Jalapeñoの主張で重要なのは、ピーク処理量だけでなく、一つの構成で高スループットと低遅延を同時に示した点だ。一般に推論要求をまとめれば総処理量を高めやすいが、利用者が次のトークンを受け取るまでの時間は長くなりやすい。今回の測定では、試験した動作範囲でJalapeñoがスループット、電力効率、遅延の組み合わせにおいて比較システムを上回った。

これはASIC単体の演算能力だけに帰属する結果ではない。Jalapeñoは、入力を処理するprefill、回答を生成するdecode、モデル状態やKVキャッシュの保持を、計算、メモリー、ネットワークを含む接続システムとして設計している。公開値は、このハードウェアとソフトウェアを組み合わせたJalapeñoシステムの測定結果として読むべきだ。

予測方式も差を左右する。主要比較ではJalapeñoとGB300の双方がsingle-token predictionを使用したが、実運用のNvidiaシステムでは複数トークンを一度に予測する構成も使われる。同じモデル名だけをそろえても、バッチ条件、トークン生成方式、許容遅延が異なれば、スループット／kWの倍率をそのまま比較することはできない。

年内に限定配備、学習用途と外販は対象外

Jalapeñoは汎用GPUの代替として販売される製品ではなく、OpenAI自身の推論需要に向けたASICだ。Axiosが確認した配備計画 では、2026年内に限られた数のJalapeñoシステムを導入し、翌年に容量を増やす予定で、外販計画はない。第2世代は開発中で、第3世代の計画も形になり始めている。

用途は推論であり、新しいモデルの学習には使わない。このため、Jalapeñoの初回結果がNvidia製アクセラレーター全般の代替可能性を示したわけではない。OpenAIもNvidiaなどの製品を学習と推論の双方で引き続き広く配備する方針を示している。

現時点で公開されているのは、3つの公開モデルによる初期測定と年内の限定配備計画までだ。量産後の稼働率、サービス環境での持続電力、総保有コスト、NvidiaのVera Rubinとの比較は示されていない。最大1.9倍は確認可能なベンチマーク結果だが、その適用範囲は公称TDP、モデル、生成方式をそろえた今回の条件内に限られる。