Jalapeño reduz a latência em até 3,6 vezes — mas não rompe com a Nvidia

Em 25 de agosto de 2026, a OpenAI publicou os primeiros resultados medidos do Jalapeño, seu acelerador próprio para inferência. Nos três modelos avaliados, o sistema entregou de 1,5 a 1,9 vez mais trabalho por watt no pico de throughput e latência de ponta a ponta de 1,7 a 3,6 vezes menor que as configurações comparadas.

Os números mostram uma vantagem relevante contra sistemas Nvidia GB200 e GB300 em cargas específicas, mas não demonstram superioridade em qualquer tarefa de inteligência artificial. O Jalapeño atende inferência — a execução de modelos já treinados — e não substitui os aceleradores externos usados pela OpenAI para treinamento e outras partes de sua infraestrutura.

O ganho de 3,6 vezes aparece em uma carga específica

A maior diferença de latência ocorreu no DeepSeek R1 670B: o sistema Jalapeño completou a solicitação em um tempo 3,6 vezes menor que a configuração GB300 usada como referência. No mesmo modelo, o pico de throughput por quilowatt ficou aproximadamente 1,7 vez acima do sistema comparado.

Os resultados normalizados dos três testes foram:

• GPT-OSS 120B contra GB200: throughput por quilowatt 1,9 vez maior e latência de ponta a ponta 1,7 vez menor.
• DeepSeek R1 670B contra GB300: throughput por quilowatt 1,7 vez maior e latência 3,6 vezes menor.
• Kimi K2.5 1T contra GB300: throughput por quilowatt aproximadamente 1,5 vez maior e latência 3,4 vezes menor.

A comparação trata do sistema construído em torno do Jalapeño, e não apenas do chip isolado. Ela inclui a interação entre acelerador, memória, rede e software de atendimento; uma mudança no modelo, no contexto, na técnica de geração ou na configuração do servidor pode deslocar a relação entre throughput e tempo de resposta.

Potência e metodologia delimitam o benchmark

As execuções usaram o InferenceX, uma suíte pública voltada ao processo completo de servir uma solicitação de IA. A carga observada foi do tipo 8k1k, com 8 mil tokens de entrada e mil de saída, e os sistemas foram avaliados em diferentes pontos entre alto throughput e baixa latência.

A eficiência foi calculada com a potência nominal publicada de cada acelerador: 700 W para o Jalapeño, 1.200 W para o GB200 e 1.400 W para o GB300. Esse critério permite comparar trabalho por quilowatt, mas a potência do pacote não equivale ao consumo integral do rack, da refrigeração, da rede e da infraestrutura elétrica.

A verificação presencial da SemiAnalysis acompanhou as execuções do InferenceX no laboratório com engenheiros da OpenAI, mas a própria análise ressalva que os números foram fornecidos pela fabricante, que a suíte completa não foi executada e que não havia resultados do AgentX, voltado a contextos longos e interações em múltiplos turnos.

O material, portanto, vai além de uma projeção baseada apenas em especificações: havia silício funcional executando modelos públicos sob uma metodologia conhecida. Ainda não é, porém, uma reprodução autônoma de toda a bateria, nem oferece dados suficientes sobre confiabilidade prolongada, custo total ou comportamento em uma variedade maior de cargas de produção.

Por que um ASIC de inferência não substitui toda a pilha de GPUs

O limite mais importante está na finalidade do Jalapeño. Inferência processa solicitações em um modelo pronto; treinamento distribui a criação e o ajuste do modelo por grandes conjuntos de aceleradores, exigindo capacidade computacional, memória, comunicação e software com características diferentes. O benchmark divulgado mede somente a primeira etapa.

A cobertura da Axios sobre a implantação registra que o chip não foi projetado para treinar novos modelos, que a quantidade inicial de sistemas em 2026 será limitada e que Nvidia, AMD e outros fornecedores continuam integrando a estratégia computacional da OpenAI.

Também não houve comparação principal com a geração Vera Rubin. Os sistemas GB200 e GB300 pertencem à família Blackwell, enquanto o Jalapeño usa uma geração posterior de memória e deve ganhar volume quando plataformas concorrentes mais novas já estiverem disponíveis. A vantagem publicada contra duas configurações específicas não estabelece liderança sobre todo o portfólio da Nvidia.

Um ASIC pode ganhar eficiência quando o operador conhece suas cargas e desenvolve em conjunto chip, memória, rede, compilador e software de inferência. GPUs preservam outra vantagem: atendem mais tipos de tarefa e modelo, sustentam treinamento e já estão disponíveis em uma escala que um projeto de primeira geração ainda precisa alcançar.

A estratégia passa a ser híbrida, não independente

O Jalapeño dá à OpenAI uma opção própria para parte do custo e da capacidade de servir modelos. Se os ganhos permanecerem em produção, cargas previsíveis de inferência poderão migrar para o ASIC, enquanto aceleradores de uso mais amplo continuarão absorvendo treinamento, expansão imediata de capacidade e modelos ainda não adaptados ao novo hardware.

A implantação comercial ainda precisa provar essa divisão em escala. O plano divulgado prevê o início da instalação do Jalapeño na infraestrutura da companhia até o fim de 2026, com uma segunda geração em desenvolvimento e uma terceira em definição.

Até agora, estão demonstrados o funcionamento do silício e os resultados em três modelos públicos, com vantagem máxima declarada de 3,6 vezes em latência. Permanecem em aberto a reprodução integralmente independente, o desempenho contra plataformas contemporâneas à expansão do chip e seu custo operacional em grande escala — dados necessários para medir quanto a alternativa própria reduzirá, de fato, a dependência da OpenAI em relação a fornecedores externos.