Jalapeño accélère l’inférence, mais ne remplace pas Nvidia pour l’entraînement
Le 25 août 2026, OpenAI a publié les premiers résultats mesurés de Jalapeño, son premier accélérateur personnalisé destiné à l’inférence. Sur le benchmark public InferenceX, le système a servi GPT‑OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T avec davantage de débit par kilowatt et une latence inférieure à celles des configurations commerciales comparées.
Ces résultats du 25 août renforcent la crédibilité de Jalapeño pour réduire les ressources nécessaires au service de modèles déjà entraînés. Ils ne montrent toutefois aucun remplacement de Nvidia pour l’entraînement : Jalapeño n’a pas été conçu ni évalué pour cette charge, et OpenAI prévoit de continuer à déployer les accélérateurs de Nvidia et d’autres partenaires.
Ce que le benchmark mesure vraiment
InferenceX porte sur l’inférence, c’est-à-dire le traitement d’une requête par un modèle déjà entraîné et la génération de sa réponse. Il évalue le parcours complet du service, avec le matériel, la mémoire, le réseau et les logiciels qui l’accompagnent. Le résultat appartient donc au système Jalapeño testé, pas au seul circuit de calcul pris isolément.
La fiche de résultats d’OpenAI indique que Jalapeño a fourni, selon le modèle, entre 1,5 et 1,9 fois plus de travail d’IA par watt au débit maximal et une latence de bout en bout entre 1,7 et 3,6 fois plus faible que les systèmes comparés. OpenAI a normalisé ces mesures à partir de la puissance nominale publiée des accélérateurs : 700 watts pour Jalapeño, 1 200 watts pour le GB200 et 1 400 watts pour le GB300.
Les trois modèles testés sont à poids ouverts et proviennent de plusieurs développeurs. Ce choix établit que l’architecture peut exécuter autre chose qu’un modèle interne spécialement préparé pour elle, mais il ne permet pas d’extrapoler les résultats à tous les modèles propriétaires d’OpenAI, à tous les contextes de requête ou à l’ensemble du trafic de production.
Débit, latence et efficacité répondent à des questions différentes
Le débit mesure la quantité de travail accomplie pendant une période donnée. La latence correspond au délai nécessaire pour traiter la requête et produire la réponse, tandis que le débit par kilowatt rapporte cette capacité à la puissance électrique. Un centre de données peut privilégier le volume total de requêtes ou la rapidité ressentie par chaque utilisateur ; les deux objectifs ne coïncident pas toujours.
La performance annoncée de Jalapeño tient à sa position sur cette courbe de compromis : le système conserve un débit élevé tout en abaissant le délai de réponse aux points de fonctionnement testés. Cet avantage peut être particulièrement utile aux agents, dont les étapes successives cumulent les temps d’attente, ainsi qu’aux services soumis à une enveloppe électrique limitée.
La portée de la comparaison reste néanmoins étroite. l’analyse d’InferenceX par SemiAnalysis précise que les essais ont été exécutés avec des ingénieurs d’OpenAI dans le laboratoire de l’entreprise, sur des charges 8k/1k à un seul tour ; les scénarios AgentX à contexte long et interactions multiples, qui sollicitent notamment le routage et la gestion des caches, n’ont pas encore été testés. Il s’agit donc d’un benchmark encadré avec OpenAI, et non d’une campagne entièrement indépendante sur des charges de production.
Une nouvelle option pour les coûts d’inférence
Jalapeño vise un poste de calcul récurrent : chaque réponse produite par un modèle mobilise des accélérateurs et consomme de l’électricité. Servir plus de requêtes dans une même enveloppe énergétique peut améliorer l’économie de l’inférence et accroître la capacité disponible, à condition que les gains du laboratoire se maintiennent après le passage à l’échelle.
La maîtrise conjointe du modèle, des logiciels de service, de la mémoire, du réseau et de l’accélérateur donne aussi à OpenAI une option interne pour affecter certaines charges au système le plus adapté. Cela peut réduire sa dépendance à un fournisseur pour une partie de l’inférence et renforcer son choix entre plusieurs infrastructures. Le benchmark ne prouve cependant pas encore une baisse déterminée du coût par requête : aucun coût complet de fabrication, d’exploitation ou de déploiement comparable n’a été publié.
La disponibilité limite également l’effet immédiat. les informations d’Axios indiquent qu’OpenAI prévoit seulement un nombre limité de systèmes Jalapeño en 2026, avant une capacité supérieure en 2027, et ne compte pas commercialiser la puce auprès d’autres entreprises. Les premiers résultats établissent donc une option technique fonctionnelle, pas encore un basculement mesurable de l’infrastructure.
Pourquoi Nvidia reste dans la chaîne d’entraînement
L’entraînement ajuste les paramètres d’un modèle sur de très grands volumes de données et mobilise des ensembles massifs d’accélérateurs interconnectés. L’inférence utilise ensuite les paramètres obtenus pour répondre aux requêtes. Jalapeño a été conçu pour cette seconde phase, et les résultats publiés ne comprennent aucun test d’entraînement.
OpenAI continuera par conséquent à utiliser les accélérateurs de Nvidia et d’autres partenaires pour l’entraînement comme pour une partie de l’inférence. Jalapeño ajoute une voie spécialisée au portefeuille de calcul de l’entreprise ; il ne remplace ni les capacités généralistes de ces fournisseurs ni les infrastructures déjà engagées pour développer de nouveaux modèles.
L’état de la démonstration est ainsi précisément borné : Jalapeño accélère le service de trois modèles à poids ouverts dans les conditions d’InferenceX, avec des gains mesurés de débit énergétique et de latence. Il reste à observer son comportement sur des charges longues et multitours, sa montée en production et son coût total. Sans ces données — et sans puce interne dédiée à l’entraînement — conclure à un remplacement général de Nvidia dépasserait ce que les résultats du 25 août établissent.
À lire aussi:
Abonnez-vous à notre newsletter
Recevez directement les dernières actualités sur le Web3, l’IA et les cryptomonnaies.