OpenAI benchmarke l’ASIC Jalapeño : l’efficacité d’inférence devient le vrai terrain de bataille

Un benchmark qui vise plus que la performance brute

Jalapeño, l’ASIC d’OpenAI, n’est plus seulement une promesse de silicium personnalisé. À Hot Chips 2026, OpenAI a publié les premiers résultats mesurés de son accélérateur d’inférence conçu « feuille blanche », en le présentant comme un composant interne opérationnel plutôt que comme un simple jalon de feuille de route [1]. Ce n’est pas une annonce de commercialisation: c’est un signal adressé aux fournisseurs de cloud, aux investisseurs, aux fabricants de puces et aux concurrents.

Le chiffre central est clair. Sur GPT-OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T, OpenAI affirme que Jalapeño fournit 1,5 à 1,9 fois plus de travail IA par watt au pic de débit et une latence de bout en bout 1,7 à 3,6 fois plus basse que les systèmes de comparaison sur le benchmark InferenceX de SemiAnalysis [1]. Pour les charges très interactives, OpenAI revendique une performance 2,1 à 4,1 fois supérieure [1]. Ces métriques ne parlent pas seulement aux ingénieurs: elles touchent directement le coût et la réactivité des services d’IA utilisés à grande échelle.

Ce qui a été mesuré

OpenAI a choisi de présenter Jalapeño à travers l’expérience utilisateur, et non uniquement par la performance théorique d’une puce. L’entreprise explique qu’InferenceX mesure le processus complet de réponse à une requête d’IA, et que les comparaisons ont été normalisées selon la puissance nominale publiée de chaque accélérateur [1]. Jalapeño est donné pour 700 watts, mais OpenAI indique que sa puissance soutenue mesurée est restée à 550 watts ou moins sur les charges testées [1].

Le choix des modèles est important. GPT-OSS 120B représente un modèle ouvert d’OpenAI, tandis que DeepSeek R1 670B et Kimi K2.5 1T de Moonshot AI sont des modèles externes [1]. OpenAI veut ainsi montrer que Jalapeño n’est pas un accélérateur étroitement adapté à un seul modèle maison, mais une plateforme d’inférence générale pour grands modèles de langage. EE Times rapporte que Richard Ho, vice-président hardware d’OpenAI, décrit Jalapeño comme un accélérateur conçu dès l’origine pour les charges LLM, développé avec Broadcom et Celestica, avec un accent particulier sur la réduction des déplacements de données [7].

Dans le détail, les résultats publiés illustrent l’importance de la latence. Sur GPT-OSS 120B, OpenAI annonce environ 1,9 fois plus de débit mixte au pic par kilowatt qu’un système GB200, avec une latence de bout en bout de 1,03 seconde contre 1,80 seconde [1]. Sur DeepSeek R1 670B, la comparaison porte sur GB300, avec environ 1,7 fois plus de débit mixte au pic par kilowatt et 1,65 seconde de latence contre 5,99 secondes [1]. Sur Kimi K2.5 1T, OpenAI annonce environ 1,5 fois plus de débit mixte au pic par kilowatt et 1,56 seconde de latence contre 5,31 secondes [1].

Le pari architectural: moins déplacer, mieux servir

Le message technique de Jalapeño ne se résume pas à « plus de calcul ». OpenAI insiste sur le fait que l’inférence comporte plusieurs phases aux contraintes différentes: le préremplissage du contexte est fortement dépendant du calcul, tandis que le décodage token par token est souvent limité par la bande passante mémoire et les délais de communication [1]. Jalapeño est conçu pour placer explicitement l’état du modèle, y compris le cache KV utilisé pendant la génération, et le garder local autant que possible [1].

Les informations publiées par d’autres médias renforcent cette lecture. Tom’s Hardware indique que chaque package Jalapeño associe son die de calcul à six piles HBM4, pour 216 Gio et 15,4 To/s de bande passante mémoire, et souligne qu’OpenAI met l’accent sur l’exploitation de la bande passante HBM agrégée plutôt que sur la simple accumulation de mémoire [5]. Data Center Dynamics rapporte qu’OpenAI prévoit des racks de 128 puces Jalapeño et qu’un pod complet contiendrait 2 048 ASICs; le rack de 128 puces est présenté comme capable de 1,7 exaflops en calcul 4 bits, avec 27,5 To de HBM4 [4].

Cette logique système est le cœur du sujet. Si Jalapeño réduit réellement les déplacements de poids et de cache KV, il peut améliorer la latence sans renoncer au débit. C’est précisément ce que cherchent les opérateurs de services d’IA, surtout lorsque les assistants conversationnels deviennent des agents capables d’enchaîner de nombreuses étapes.

Les limites à garder en tête

Ces résultats sont importants, mais ils ne constituent pas encore un verdict définitif. SemiAnalysis indique avoir benchmarké Jalapeño avec les ingénieurs d’OpenAI en laboratoire, tout en précisant que la suite InferenceX complète n’a pas été exécutée indépendamment et que les résultats AgentX, que SemiAnalysis juge plus représentatifs des charges longues, multi-tours et agentiques, n’ont pas encore été montrés [2]. Cette réserve compte, car le trafic de production sollicite les routeurs, les caches de préfixe, la gestion du cache et les mécanismes d’offload bien au-delà d’un scénario 8k/1k en un seul tour [2].

Il y a aussi la question du concurrent choisi. Les principales comparaisons publiques opposent Jalapeño aux systèmes Nvidia GB200 et GB300, pas à Vera Rubin [5]. TechCrunch rapporte que Richard Ho estime un déploiement de Jalapeño fin 2026 en très petits volumes, avec une montée en puissance plus significative en 2027; d’ici là, la cible concurrentielle aura probablement évolué [3]. Tom’s Hardware note également que Vera Rubin n’était pas inclus dans la comparaison et que Jalapeño n’est pas conçu pour l’entraînement, domaine où Nvidia reste central dans l’infrastructure d’OpenAI [5].

Autrement dit, Jalapeño offre une première démonstration solide, mais pas encore une preuve d’avantage industriel complet. Il reste à vérifier les coûts à grande échelle, les rendements, la fiabilité en production, la maturité logicielle sur des charges de frontière et la performance face aux plateformes de prochaine génération.

Un signal stratégique pour Nvidia et les clouds

Malgré ces réserves, OpenAI change le débat. Axios rapporte que l’entreprise ne prévoit pas de vendre Jalapeño à des tiers, car elle anticipe d’en avoir besoin pour ses propres services [6]. Jalapeño ressemble donc moins à une puce marchande qu’à un outil d’intégration verticale: il peut servir à réduire les coûts d’inférence, améliorer la latence et donner à OpenAI une option crédible dans ses négociations avec les fournisseurs d’accélérateurs.

Cette option ne remplace pas Nvidia. Axios rapporte qu’OpenAI considère Jalapeño comme un élément d’un portefeuille de calcul plus large incluant Nvidia, AMD et d’autres systèmes, tandis que TechCrunch rappelle que la puce vise l’inférence et non l’entraînement [3][6]. Mais le signal est puissant: les entreprises de modèles ne veulent plus être seulement clientes des fabricants de semi-conducteurs. Elles veulent co-concevoir la mémoire, le réseau, les compilateurs, les kernels et les racks autour de leurs propres profils de trafic.

OpenAI l’a formulé dans un texte stratégique publié le même jour: du matériel conçu pour ses charges améliore la vitesse et l’efficacité, tandis qu’un portefeuille élargi de partenaires préserve le choix et la discipline des prix [1]. C’est le sous-texte économique de Jalapeño: le benchmark parle de silicium, mais aussi de marge, de pouvoir de négociation et de contrôle de la chaîne IA.

Le vrai test commence avec le déploiement

OpenAI prévoit de commencer à déployer Jalapeño dans sa propre infrastructure de calcul d’ici la fin 2026, avec une génération 2 déjà bien avancée et une génération 3 en préparation [1]. Data Center Dynamics rapporte que les volumes seront limités cette année et plus larges l’an prochain [4]. Si ce calendrier se confirme, l’industrie pourra bientôt mesurer si l’avantage affiché survit au trafic réel, aux contraintes d’approvisionnement, aux pannes et aux coûts d’exploitation.

Pour l’instant, Jalapeño apporte à OpenAI une preuve crédible. L’entreprise montre qu’un laboratoire de modèles peut concevoir un ASIC d’inférence autour de ses propres charges, publier des benchmarks capables de défier les accélérateurs établis et transformer l’efficacité énergétique en levier stratégique. La question suivante est plus difficile: cet avantage de première génération deviendra-t-il un avantage de flotte avant que Nvidia, AMD, Google, Amazon et Microsoft déplacent à nouveau la frontière?

Sources des dernières 72 heures

1. [1]OpenAI Inc. (via Public) / Jalapeño’s first results show industry-leading speed and efficiency in AI inference25 août 2026, 08:28 UTC
2. [2]OpenAI Jalapeño: Better Than Nvidia Blackwell25 août 2026, 22:05 UTC
3. [3]OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show25 août 2026, 14:22 UTC
4. [4]OpenAI details Jalapeño AI chip, with 700W TDP25 août 2026, 12:00 UTC
5. [5]OpenAI’s 700W Jalapeño ASIC outpaces 1,400W Nvidia flagship GPU — claims up to 1.9x throughput per kilowatt and 3.6x lower latency, co-developed with Broadcom25 août 2026, 18:05 UTC
6. [6]OpenAI says its Jalapeño chip offers spicy performance25 août 2026, 14:00 UTC
7. [7]First Benchmarks Revealed for Jalapeño, OpenAI’s Clean-Sheet General Purpose AI Accelerator ASIC27 août 2026, 12:00 UTC

Article généré par IA à partir d’une recherche web récente, puis conservé comme instantané éditorial daté.