Une machine promet des réponses d’IA trente fois plus rapides
Le fabricant Cerebras présente un système bâti autour de trois puces géantes. Il vise le moment où l’IA répond, pas celui où elle apprend.
Cerebras a présenté le 18 août sa nouvelle machine, la CS-4. Sa particularité : au lieu d’assembler des centaines de petites puces, elle en utilise trois de la taille d’une assiette, chacune gravée d’un seul bloc. L’entreprise annonce 750 pétaflops de puissance de calcul, une machine jusqu’à deux fois plus rapide que la génération précédente, et jusqu’à trente fois plus de mots produits par seconde et par utilisateur qu’avec les cartes graphiques habituelles. Elle revendique aussi dix fois plus de travail rendu à consommation électrique égale, et la capacité de faire tourner des modèles très volumineux. Les premières livraisons sont prévues ce trimestre.
Ces chiffres viennent du constructeur et restent à confronter aux mesures indépendantes. Mais la direction est claire : la bataille se déplace de l’entraînement des modèles, l’étape où ils apprennent, vers l’inférence, le moment où ils répondent à vos questions. C’est cette seconde étape que vous payez tous les jours, et c’est elle qui décide si un outil vous répond en une seconde ou en trente.
Ce déplacement compte pour trois raisons très concrètes. Un assistant qui répond instantanément peut être mis face à un client au téléphone ; un assistant lent reste un outil de travail interne. Une IA qui enchaîne des dizaines d’étapes sans intervention humaine n’est utilisable que si chaque étape est rapide. Et une facture d’électricité divisée finit toujours par se retrouver dans le prix affiché de l’abonnement. Si le marché de la réponse s’ouvre à d’autres fournisseurs que le leader actuel, la pression sur les tarifs joue en votre faveur.