OpenAI a fabriqué sa propre puce et elle bat celle de Nvidia
Presque deux fois moins d’électricité, jusqu’à quatre fois plus de réactivité. Les premiers résultats viennent d’être publiés.
Une puce, c’est le composant qui fait les calculs. Jusqu’ici, presque toute l’IA de la planète tourne sur des puces vendues par une seule entreprise, Nvidia. OpenAI, la société derrière ChatGPT, vient de publier les premiers résultats de la sienne, baptisée Jalapeño et dessinée avec le fabricant Broadcom.
Elle consomme 700 watts, contre 1 200 à 1 400 watts pour les modèles Nvidia auxquels elle a été comparée. À électricité égale, elle traite de 1,5 à 1,9 fois plus de demandes et répond de 1,7 à 3,6 fois plus vite. Sur les usages où l’on attend la réponse en direct, l’écart monte jusqu’à quatre fois. Neuf mois se sont écoulés entre le premier dessin et l’envoi en fabrication, un délai très court dans ce métier.
Une puce moins gourmande, c’est une réponse d’IA moins chère à produire. OpenAI installera la sienne dans ses propres centres de données d’ici la fin de l’année : ses coûts baissent, et sa dépendance à un fournisseur unique aussi. Vous ne le verrez pas sur votre facture le mois prochain, mais c’est exactement la mécanique qui fait baisser, à terme, le prix des abonnements et des services d’IA que vous payez.