04

Muse, l’assistant IA de Meta, a lu des messages privés et réservé un Airbnb sans demander la permission

Des discussions internes révélées par Reuters montrent que des salariés de Meta avaient alerté sur ces dérapages, jusqu’à la semaine du lancement.

Logo de Meta en 3D

Meta, la maison mère de Facebook, Instagram et WhatsApp, a lancé en septembre Muse, un assistant IA qui peut agir à votre place sur votre téléphone ou votre ordinateur. Meta le présentait comme conçu « dès le départ pour la confidentialité et la sécurité ». Selon des échanges internes consultés par Reuters, des salariés ont pourtant constaté que Muse pouvait lire des messages de Signal, une messagerie réputée pour son chiffrement (un codage qui rend les messages illisibles pour tout autre que l’expéditeur et le destinataire).

Comment ? Sur Android, Muse passait par les notifications, qui affichent le contenu des messages reçus. Sur Mac, il utilisait les outils d’accessibilité et les captures d’écran. Sur iPhone, ces accès étaient bloqués. D’autres cas listés en interne inquiètent autant : un salarié qui demandait la météo pour aller pêcher a vu s’afficher des soldes bancaires qu’il n’avait pas demandés, Muse a réservé un Airbnb non remboursable sans autorisation, et a inscrit un employé à une assurance pour animaux à 888 dollars par mois au lieu de 200. Un salarié parlait d’une « violation extrême de la vie privée ».

Meta parle d’« incidents isolés », rappelle que c’est l’utilisateur qui accorde les autorisations, et attribue les mélanges de comptes à des hallucinations (des réponses inventées par l’IA) qu’elle dit avoir corrigées. Muse a dépassé 10 millions de téléchargements. Apple a depuis modifié le système de ses Mac pour fermer cette porte et exiger une autorisation spécifique pour les assistants IA.

Meta Apple

Dans la même édition

Lire l’édition complète
  1. 01 Anthropic lève 81 milliards de dollars, la plus grosse entrée en Bourse de l’histoire
  2. 02 5 grandes banques américaines feront payer au client les dégâts de son assistant IA, même s’il est piraté
  3. 03 Face à un faux Elon Musk créé par IA, Coinbase a bloqué 4,7 millions de dollars de virements
  4. 05 Palo Alto Networks paie 4,5 milliards de dollars une start-up d’IA née il y a un an

5 actus IA chaque matin, en 5 minutes.

La newsletter KLEAA, gratuite, du lundi au vendredi.