OpenAIs Jalapeño spart Leistung pro Watt – doch der Vergleich hat einen Haken

OpenAI veröffentlichte am 25. August 2026 erste Leistungswerte für seinen eigenen Inferenzchip Jalapeño. Laut den Messdaten von OpenAI erledigte das getestete System mit drei offenen Sprachmodellen bei maximalem Durchsatz 1,5- bis 1,9-mal mehr Arbeit pro Watt als die jeweiligen Nvidia-Blackwell-Vergleichssysteme; die End-to-End-Latenz war um den Faktor 1,7 bis 3,6 niedriger.

Die Ergebnisse bestätigen funktionierendes Silizium, aber noch keinen Vorsprung im regulären Rechenzentrumsbetrieb. Jalapeño befindet sich im Engineering-Sample-Stadium und nutzt HBM4, während OpenAI gegen bereits verfügbare Blackwell-Systeme mit HBM3E testete. Der Vergleich zeigt deshalb einen Effizienzvorteil unter definierten Laborbedingungen, nicht automatisch niedrigere Produktions- oder Cloud-Kosten.

Was InferenceX gemessen hat

InferenceX bewertet die Verarbeitung vollständiger Inferenzanfragen an verschiedenen Betriebspunkten zwischen maximalem Gesamtdurchsatz und niedriger Antwortlatenz. Getestet wurden GPT‑OSS 120B, DeepSeek R1 670B und Kimi K2.5 1T mit nominal 8.000 Eingabe- und 1.000 Ausgabetokens sowie Single Token Prediction.

Die Kennzahl „pro Watt“ beruht nicht auf dem Stromverbrauch eines vollständigen Rechenzentrums. OpenAI normalisierte den Durchsatz anhand der veröffentlichten Leistungsgrenze der jeweiligen Beschleunigerpakete: 700 Watt für Jalapeño, 1.200 Watt für GB200 und 1.400 Watt für GB300. Nach Angaben des Unternehmens blieb Jalapeño während der getesteten Lasten bei höchstens 550 Watt dauerhafter Leistungsaufnahme.

• GPT‑OSS 120B gegen GB200: 85.448 statt 44.960 gemischte Tokens pro Sekunde und Kilowatt; 1,03 statt 1,80 Sekunden End-to-End-Latenz.
• DeepSeek R1 670B gegen GB300: 19.641 statt 11.781 gemischte Tokens pro Sekunde und Kilowatt; 1,65 statt 5,99 Sekunden Latenz.
• Kimi K2.5 1T gegen GB300: 18.195 statt 11.862 gemischte Tokens pro Sekunde und Kilowatt; 1,56 statt 5,31 Sekunden Latenz.
• Auslieferungsstatus: Blackwell ist kommerziell verfügbar; Jalapeño wird noch qualifiziert und soll zunächst innerhalb der OpenAI-Infrastruktur eingesetzt werden.

Damit belegt der Test das Versprechen des Titels in einem klar begrenzten Sinn: Jalapeño erzeugte in diesen Konfigurationen mehr Inferenzarbeit je angesetztem Watt und antwortete zugleich schneller. Die Werte sind jedoch Ergebnisse kompletter Testkonfigurationen einschließlich Software und Betriebsmodus, keine universelle Eigenschaft des Chips für jedes Modell und jede Last.

Warum Blackwell nicht der ideale Gegner ist

Die wichtigste Einschränkung betrifft sowohl die Methodik als auch die Hardwaregeneration. Die technische Einordnung von SemiAnalysis hält fest, dass die Autoren die InferenceX-Läufe gemeinsam mit OpenAI-Ingenieuren im Labor überprüften, sämtliche veröffentlichten Zahlen aber von OpenAI erhielten. Sie führten weder die vollständige InferenceX-Suite selbst aus noch lagen ihnen AgentX-Ergebnisse für lange Kontexte und mehrstufige Dialoge vor.

Jalapeño nutzt HBM4 und erreicht nach den veröffentlichten Spezifikationen 15,4 Terabyte Speicherbandbreite pro Sekunde und Paket. GB200 und GB300 verwenden dagegen HBM3E. SemiAnalysis bewertet den Vergleich daher als unvollständig und sieht Nvidias ebenfalls mit HBM4 ausgestattete Rubin-Generation als sachlich passenderen Bezugspunkt.

Auch der Reifegrad unterscheidet sich. Für Jalapeño wurden Engineering-Samples vermessen, während die Blackwell-Gegner ausgelieferte Systeme sind. Ein früher Chip kann die Funktionsfähigkeit der Architektur und des Software-Stacks demonstrieren; offen bleiben jedoch Ertrag in der Fertigung, Zuverlässigkeit, Kühlungsbedarf und erreichbare Leistung einer großen Produktionsflotte.

Was der Effizienzvorteil für KI-Kosten bedeutet

Mehr Durchsatz pro Watt ist für leistungsbegrenzte Rechenzentren wirtschaftlich relevant: Mit derselben elektrischen Anschlussleistung könnten mehr Anfragen verarbeitet werden. Die zugleich niedrigere Latenz spricht in den gemessenen Betriebspunkten dagegen, dass OpenAI den Effizienzgewinn nur durch größere Batches und längere Wartezeiten erzielt hat.

Eine konkrete Senkung von API- oder Cloud-Preisen lässt sich daraus nicht ableiten. Der Benchmark enthält weder Anschaffungskosten noch belastbare Angaben zu Fertigungsausbeute, Stückzahlen, Packaging, Kühlung oder Flottenauslastung. Auch SemiAnalysis’ Vergleich mit Rubin ersetzt keinen Test unter identischen Modellen, Softwareständen und Lastprofilen.

Jalapeño ist außerdem ausschließlich für Inferenz vorgesehen. OpenAI will Beschleuniger von Nvidia und anderen Partnern weiterhin für Training und Inferenz einsetzen. Der eigene Chip ist damit zunächst eine zusätzliche interne Kapazitätsquelle und kein vollständiger Ersatz für die bestehende GPU-Infrastruktur.

Der Serieneinsatz steht noch aus

Jalapeño ist derzeit kein frei erhältliches Produkt. OpenAI plant eine begrenzte Zahl eigener Systeme noch 2026 und mehr Kapazität im folgenden Jahr. Nach dem Bericht von Axios will das Unternehmen den Chip vorerst nicht an Dritte verkaufen, weil es die verfügbare Kapazität selbst benötigt.

Die belastbare Kernaussage bleibt daher eng: In den veröffentlichten InferenceX-Läufen lieferte Jalapeño mehr Arbeit pro Watt und niedrigere Latenzen als die ausgewählten Blackwell-Systeme. Ob der Vorsprung bei langen Agentenlasten, in vollständig unabhängig ausgeführten Tests und im großflächigen Produktionsbetrieb bestehen bleibt, müssen AgentX-Messungen, direkte Rubin-Vergleiche und Daten aus dem angekündigten internen Einsatz zeigen.