Jalapeño watt başına önde, fakat Blackwell karşılaştırması eksik

Jalapeño, yayımlanan üç InferenceX testinde Nvidia GB200 ve GB300 karşılaştırma sistemlerinden watt başına 1,5–1,9 kat daha fazla iş üretirken uçtan uca gecikmeyi 1,7–3,6 kat düşürdü. OpenAI’ın 25 Ağustos 2026 tarihli ölçümleri, bu sonuçların GPT‑OSS 120B, DeepSeek R1 670B ve Kimi K2.5 1T modellerinde, nominal 8 bin giriş ve 1.000 çıkış tokenlı tek turlu iş yükünde alındığını gösteriyor.

Bu sonuçlar watt başına üstünlük iddiasını destekliyor, fakat Jalapeño’nun Blackwell mimarisinden koşulsuz biçimde daha iyi olduğunu kanıtlamıyor. Ölçülen donanım A0 mühendislik örneği, ana güç hesabı paket TDP’sine dayanıyor ve HBM4 kullanan Jalapeño, HBM3E bellekli Blackwell sistemleriyle karşılaştırılıyor.

Üç modelde hangi sonuçlar yayımlandı?

Karşılaştırmalar Single Token Prediction, yani STP ile yapıldı. “Mixed TPS/kW”, giriş ve çıkış tokenlarını kapsayan en yüksek karma throughput değerinin yayımlanmış paket güç sınırına bölünmesini; uçtan uca gecikme ise isteğin başından tamamlanmasına kadar geçen süreyi ifade ediyor.

• GPT‑OSS 120B: Jalapeño’nun 700 W paket TDP’si, GB200’ün 1.200 W değeriyle karşılaştırıldı. Sonuç 85.448’e karşı 44.960 mixed TPS/kW, yani yaklaşık 1,9 kat avantaj oldu. Uçtan uca süre 1,03 saniyeye karşı 1,80 saniyeydi; bu yaklaşık 1,7 kat daha düşük gecikme demek.
• DeepSeek R1 670B: Jalapeño 700 W, GB300 ise 1.400 W temelinde değerlendirildi. Ölçümler 19.641’e karşı 11.781 mixed TPS/kW ile yaklaşık 1,7 kat verimlilik; 1,65 saniyeye karşı 5,99 saniye ile yaklaşık 3,6 kat daha düşük gecikme gösterdi.
• Kimi K2.5 1T: GB300’e karşı sonuç 18.195’e 11.862 mixed TPS/kW, yani yaklaşık 1,5 kat oldu. Uçtan uca süreler 1,56 ve 5,31 saniye ölçüldü; Jalapeño tarafındaki gecikme yaklaşık 3,4 kat daha düşüktü.

Dolayısıyla en yüksek verimlilik ve gecikme oranları aynı testten gelmiyor. Watt başına en büyük fark GPT‑OSS’ta, en geniş uçtan uca gecikme farkı DeepSeek R1’de görüldü.

Watt normalizasyonu neyi ölçüyor?

Ana karşılaştırmanın paydası gerçek zamanlı tesis tüketimi değil, her hızlandırıcının yayımlanmış paket TDP’si. Jalapeño için 700 W kullanılmasına rağmen testlerde ölçülen sürekli paket gücü 550 W veya altında kaldı. TDP, ortak bir karşılaştırma zemini sağlasa da ana bilgisayarları, ağ donanımını, güç dönüşümü kayıplarını ve soğutmanın tamamını kapsamaz.

Tom’s Hardware’ın teknik incelemesine göre ek karşılaştırmada hızlandırıcı başına toplam şebeke gücü Jalapeño için 1,18 kW, GB300 için 2,55 kW olarak alındığında fark daralıyor. Bu nedenle 1,9 katlık paket düzeyi oran, elektrik faturasının aynı oranda düşeceği anlamına gelmiyor; raf yerleşimi, kullanım oranı, ağ ve soğutma yükü tesis sonucunu değiştirebilir.

HBM4 ile HBM3E neden karşılaştırmayı bozuyor?

Dil modeli çıkarımında özellikle token üretimi bellek bant genişliğiyle sınırlanabilir. Jalapeño’nun HBM4 kullanmasına karşılık test edilen GB200 ve GB300 sistemlerinin HBM3E ile çalışması, daha yeni bellek neslinin sonuca ne kadar katkı yaptığını özel çıkarım mimarisinin ve yazılımın katkısından ayırmayı zorlaştırıyor.

SemiAnalysis’in metodoloji değerlendirmesi, bu nedenle Blackwell eşleşmesini “kısmen eksik ve adaletsiz” olarak nitelendiriyor ve HBM4 kullanan Vera Rubin’i daha uygun nesil karşılığı sayıyor. Değerlendirme ayrıca bütün sayıların OpenAI tarafından sağlandığını, ekibin laboratuvardaki InferenceX çalıştırmalarını yerinde doğruladığını ancak tam test paketini bağımsız çalıştırmadığını belirtiyor.

Bellek seçimi yine de ürün tasarımının dışındaki bir ayrıntı değildir: veri merkezi işletmecisi çip, bellek, ağ ve yazılımdan oluşan sistemi kullanır. Sorun, mevcut testin Jalapeño’nun toplam sistem avantajını göstermesi değil; bu avantajın hangi bölümünün mimariden, hangi bölümünün HBM4’ten geldiğini tek başına açıklayamamasıdır.

Tek turlu 8k/1k yükü üretimi ne kadar temsil ediyor?

Nominal 8k/1k testi üç donanım eşleşmesini ortak bir yük altında karşılaştırıyor, ancak uzun bağlamlı ve çok turlu ajan işlerini kapsamıyor. Bu işlerde yönlendirme, prefix cache, KV cache yönetimi ve verilerin başka belleklere aktarılması daha belirleyici hâle gelebilir.

SemiAnalysis’in tercih ettiği AgentX paketinin sonuçları henüz görülmedi. Dolayısıyla yayımlanan sayılar tek turlu açık model çıkarımı için anlamlıdır; farklı bağlam uzunluklarına, çok adımlı ajan işlerine veya başka model ailelerine doğrudan taşınamaz.

Ölçülmüş silikon, sevkiyata hazır ürün demek değil

Jalapeño sonuçları simülasyondan değil çalışan silikondan geliyor, fakat donanımın statüsü seri üretim ürünü değil. OpenAI ile Broadcom’un ortak duyurusu, laboratuvardaki mühendislik örneklerinin üretim hedefi frekansında ve güç seviyesinde makine öğrenimi yükleri çalıştırdığını doğruluyor.

OpenAI üretim yeterliliğini, yazılımı ve ölçekli işletim hazırlıklarını geliştirmeyi sürdürüyor. Bu yüzden ölçümler, satın alınabilen genel erişimli bir hızlandırıcının toplam sahip olma maliyeti olarak değil, OpenAI’ın kendi altyapısına hazırlanan erken donanımın performansı olarak okunmalı.

Sonuçların gösterdiği ve henüz göstermediği

Jalapeño, belirtilen 8k/1k STP testlerinde ve paket TDP’sine dayalı hesapta watt başına önde. Aynı üç yükte uçtan uca gecikmenin de düşmesi, mimarinin yüksek throughput ile hızlı yanıt arasında güçlü bir denge kurabildiğine dair önemli bir ilk kanıt sunuyor.

Buna karşılık HBM4–HBM3E nesil farkı, tam bağımsız test paketinin çalıştırılmamış olması, AgentX verilerinin bulunmaması ve A0 mühendislik örneği statüsü genel bir mimari zafer ilanını engelliyor. En sağlam hüküm, Jalapeño’nun belirli açık model iş yüklerinde verimli olduğunu kanıtladığı; eş bellek nesli, uzun bağlam ve üretim ölçeğindeki karşılaştırmanın ise hâlâ eksik olduğudur.