Samsung fait calculer la mémoire elle-même pour tripler la vitesse de l’IA
Présentée le 25 août devant les spécialistes des puces, une mémoire d’un nouveau genre embarque une petite unité de calcul à l’intérieur. Résultat annoncé : trois fois plus de texte produit par seconde.
Aujourd’hui, faire tourner une IA revient surtout à déplacer des données entre la mémoire et le processeur, sans arrêt. C’est ce trajet, plus que la puissance de calcul brute, qui ralentit tout. L’idée de cette puce est de faire une partie des opérations directement là où les données sont stockées, pour supprimer une bonne part des allers-retours.
Les chiffres annoncés : 16 gigaoctets de capacité, et un débit interne de 614 gigaoctets par seconde, contre 76,8 gigaoctets pour une mémoire classique, soit huit fois plus. À l’usage, le fabricant mesure 3,01 fois plus de texte produit par seconde. Le point décisif est ailleurs : la puce garde le même boîtier et le même brochage que la mémoire actuelle, donc un fabricant de téléphones ou d’ordinateurs portables peut l’adopter sans redessiner sa carte électronique.
L’arrière-plan est une pénurie. Les mémoires très rapides destinées aux cartes graphiques d’IA sont accaparées par les centres de données, et leur prix tire vers le haut le coût de tous les appareils. Faire tourner l’IA sur l’appareil lui-même change deux lignes de votre budget : vos données ne partent pas chez un tiers, et il n’y a pas de facture à l’usage. C’est la voie la plus crédible pour que l’IA devienne un coût fixe plutôt qu’un abonnement qui grossit avec l’activité.