Jalapeño : pourquoi OpenAI fabrique sa propre puce d’inférence

Ce qu’OpenAI a réellement annoncé

Le 25 août 2026, OpenAI a publié les premiers résultats mesurés de Jalapeño, sa première puce personnalisée pour l’inférence des grands modèles de langage. L’entreprise affirme que son système peut traiter davantage de travail d’IA par unité d’énergie tout en réduisant le temps nécessaire pour renvoyer une réponse. Elle prévoit de commencer à déployer la première génération dans sa propre infrastructure avant la fin de 2026.

La puce avait été dévoilée le 24 juin avec Broadcom. OpenAI conçoit l’architecture en fonction de ses modèles et de ses services ; Broadcom apporte l’implémentation silicium, les technologies réseau et l’industrialisation, tandis que Celestica participe aux cartes, aux racks et à l’intégration système. Les publications primaires consultées ne confirment pas le rôle de TSMC mentionné dans certaines vidéos ou reprises. Il faut donc présenter ce point comme non vérifié, pas comme un fait établi.

Fait vérifié : Jalapeño existe, fonctionne et dispose de premiers résultats mesurés. Non démontré : son effet futur sur les prix de ChatGPT, des API, des GPU ou de la mémoire pour particuliers.

Une puce d’inférence, à quoi sert-elle ?

L’entraînement construit un modèle à partir d’une grande quantité de calculs et de données. L’inférence commence ensuite lorsqu’une personne envoie une demande : le système lit le contexte, calcule la suite et génère la réponse. À l’échelle de ChatGPT, de Codex ou d’une API, cette deuxième phase se répète des milliards de fois. Quelques millisecondes ou quelques watts économisés par requête peuvent donc devenir importants à l’échelle d’un centre de données.

Les GPU sont polyvalents et très performants : ils servent à l’entraînement comme à de nombreuses formes d’inférence. OpenAI choisit ici une spécialisation différente. Jalapeño est conçu autour des besoins des modèles de langage, notamment la lecture initiale du prompt, appelée prefill, puis la production token par token, appelée decode. L’objectif n’est pas seulement d’augmenter la puissance brute, mais de réduire les attentes entre calcul, mémoire et communication.

Pourquoi la mémoire et le réseau comptent autant que le calcul

Un modèle volumineux ne tient pas toujours sur un seul accélérateur. Ses paramètres, son contexte et le cache utilisé pendant la génération doivent circuler ou rester accessibles à plusieurs unités. Si les données attendent le réseau ou sont déplacées trop souvent, les cœurs de calcul peuvent rester inutilisés. Une puce très rapide isolément ne garantit donc pas une réponse rapide de bout en bout.

OpenAI explique avoir conçu ensemble le processeur, la mémoire, le réseau, le logiciel et le système à l’échelle du rack. Jalapeño permettrait de placer explicitement l’état du modèle et de le conserver au plus près du calcul utile. Cette approche dite full stack donne au fournisseur la possibilité d’optimiser chaque couche pour ses charges réelles. Elle augmente aussi sa responsabilité : un avantage mesuré en laboratoire doit encore survivre à la production, aux pannes, aux mises à jour de modèles et aux pics de demande.

Les chiffres publiés, sans les transformer en slogan

OpenAI a testé Jalapeño avec InferenceX, un benchmark public de SemiAnalysis qui mesure l’ensemble du service d’une requête. Les essais portent sur GPT‑OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T. Selon l’entreprise, Jalapeño fournit de 1,5 à 1,9 fois plus de travail d’IA par watt au débit maximal, une latence de bout en bout de 1,7 à 3,6 fois plus faible et, sur les charges très interactives, des performances de 2,1 à 4,1 fois supérieures aux systèmes de comparaison.

La puce est annoncée avec une enveloppe thermique de 700 W, tandis que la consommation soutenue mesurée par OpenAI serait restée inférieure ou égale à 550 W sur les charges testées. Dans l’annexe, les comparaisons utilisent notamment un système Nvidia GB200 donné à 1 200 W pour GPT‑OSS et un GB300 à 1 400 W pour DeepSeek et Kimi. Le raccourci « 700 W contre 1 400 W » n’est donc pas un résultat universel : le système Nvidia, le modèle, le point de fonctionnement et la métrique changent selon le test.

Pourquoi un seul benchmark ne suffit pas

Un benchmark sélectionne des modèles, des longueurs de contexte, des formats numériques et des objectifs de latence. Un accélérateur spécialisé peut être excellent sur ces conditions et moins avantageux sur une autre architecture ou une charge imprévue. Les chiffres publiés viennent en outre d’OpenAI, le concepteur du système. Ils sont utiles et détaillés, mais ils devront être reproduits ou analysés par des tiers lorsque le matériel sera plus largement accessible.

La bonne lecture consiste à conserver le dénominateur. « 3,6 fois moins de latence » correspond au test DeepSeek R1 décrit par OpenAI, pas à toutes les réponses de ChatGPT. « Plus de travail par watt » ne signifie pas automatiquement une consommation totale plus faible : si la demande augmente plus vite que l’efficacité, l’infrastructure peut continuer à consommer davantage au total. L’efficacité réduit le coût d’une unité de travail ; elle ne fixe pas le volume global.

OpenAI concurrence-t-il vraiment Nvidia ?

Jalapeño réduit la dépendance d’OpenAI à un seul type d’accélérateur et lui donne davantage de contrôle sur les coûts, les capacités et le calendrier de son infrastructure. C’est une forme de concurrence verticale : OpenAI peut réserver sa puce spécialisée aux charges où elle apporte le plus de valeur, tout en négociant et en combinant plusieurs fournisseurs.

Mais l’entreprise dit explicitement qu’elle continuera à déployer largement des accélérateurs Nvidia et ceux d’autres partenaires pour l’entraînement comme pour l’inférence. Jalapeño ne remplace donc pas aujourd’hui l’écosystème logiciel, la disponibilité et la polyvalence des GPU. Les centres de données deviennent probablement hétérogènes : GPU généralistes pour certaines tâches, accélérateurs personnalisés pour d’autres, avec un logiciel chargé d’orienter chaque travail vers le bon matériel.

Ce que cela pourrait changer pour ChatGPT, Codex et les API

Si les gains se maintiennent à grande échelle, OpenAI pourra servir davantage de requêtes avec une même enveloppe électrique, réduire l’attente des agents qui enchaînent plusieurs étapes et améliorer la disponibilité lors des pics. Une latence plus faible compte particulièrement pour la voix, le code interactif et les agents : une seconde économisée sur chaque étape peut représenter plusieurs secondes sur une tâche complète.

Une meilleure efficacité peut aussi réduire le coût interne d’une réponse et donner plus de marge pour proposer des modèles puissants, des limites plus généreuses ou des tarifs différents. Ce ne sont cependant que des possibilités. OpenAI n’a annoncé ni baisse de prix, ni nouveau forfait, ni gratuité, ni calendrier spécifique pour la France ou l’Europe. Un article responsable doit attendre une page tarifaire ou produit avant de présenter un avantage commercial au public.

Faut-il s’attendre à une baisse du prix des GPU ou de la RAM ?

Rien dans les annonces officielles ne permet de prévoir une baisse du prix des cartes graphiques grand public ou de la mémoire. Jalapeño est destiné à l’infrastructure d’OpenAI et doit être déployé à l’échelle de racks de centres de données. Les marchés des accélérateurs professionnels, des GPU grand public et de la mémoire sont liés par certaines capacités industrielles, mais leurs prix dépendent aussi de la demande, des contrats, de la production et de nombreux autres clients.

Il est raisonnable de dire que les puces personnalisées peuvent modifier la répartition de la demande à long terme. Il serait trompeur d’en déduire une date ou un pourcentage de baisse pour un ordinateur personnel. Un particulier ou une TPE ne doit donc pas retarder un achat nécessaire sur cette seule annonce. Il faut comparer le besoin, le prix actuel, la possibilité de louer du calcul et la durée d’usage prévue.

Ce que doivent surveiller les indépendants et petites entreprises

Vous n’avez rien à migrer aujourd’hui. Jalapeño est une couche d’infrastructure interne : l’utilisateur choisit un service, un modèle, un prix et des règles de données, pas directement la puce qui traite chaque requête. La décision utile reste donc centrée sur le résultat : qualité en français, délai, fiabilité, confidentialité, coût complet et possibilité de changer de fournisseur.

Surveillez quatre signaux concrets lors des prochains mois : une modification officielle des prix ou quotas, l’arrivée d’un mode plus rapide, la disponibilité de nouvelles fonctions agentiques et la publication de mesures indépendantes. Pour une API, testez la latence au 95e percentile et le coût d’une tâche réussie, pas seulement le prix d’un million de tokens. Pour une application, conservez un export des données et une solution de repli afin que l’infrastructure d’un fournisseur ne devienne pas votre unique plan de continuité.

1. Noter la formule, le modèle, la région et le prix réellement utilisés
2. Mesurer une tâche complète, y compris corrections et contrôles humains
3. Comparer la latence médiane et les ralentissements aux heures chargées
4. Vérifier confidentialité, conservation et possibilités d’export
5. Maintenir un fournisseur ou un processus de secours pour les tâches critiques

La conclusion raisonnable

Jalapeño constitue un changement stratégique important : OpenAI ne développe plus seulement des modèles et des applications, mais aussi une plateforme de calcul conçue autour de leurs besoins. Les premiers résultats suggèrent un avantage réel sur l’efficacité et la latence de plusieurs grands modèles. Ils montrent également que la compétition de l’IA se joue désormais sur la conception conjointe du modèle, du logiciel, de la mémoire, du réseau et du silicium.

Il est trop tôt pour annoncer la fin de Nvidia, la gratuité de ChatGPT ou une baisse du prix des cartes graphiques. Le prochain test sera opérationnel : qualification industrielle, déploiement avant fin 2026, stabilité à grande échelle et bénéfices visibles dans les produits. Pour les utilisateurs, l’indicateur décisif ne sera pas le nom de la puce, mais une amélioration mesurable du délai, du coût, de la fiabilité et de l’accès, documentée dans l’offre qu’ils utilisent réellement.