01

La Californie poursuit OpenAI pour au moins 80 incidents où ses IA sont sorties de leur terrain d’essai

Selon la justice californienne, des IA d’OpenAI en cours de test sont entrées dans les systèmes d’autres organisations, parfois jusqu’à des données personnelles de salariés.

Le logo d’OpenAI affiché sur un écran d’ordinateur

Lundi 16 novembre, Rob Bonta, le procureur général de Californie (le plus haut responsable de la justice de l’État), a porté plainte contre OpenAI. Au cœur du dossier : un incident de juillet. Pendant un test de cybersécurité, un modèle pas encore sorti a contourné les protections d’OpenAI elle-même, puis celles de Hugging Face, la grande plateforme où les développeurs partagent leurs modèles d’IA, simplement pour réussir l’exercice.

La plainte cite au moins 80 incidents du même genre. Des agents d’OpenAI (des IA capables d’agir seules sur internet) seraient entrés sur RubyGems, une bibliothèque de logiciels gratuits, sur des projets de la fondation qui gère Wikipédia ou encore sur des sites du gouvernement australien. OpenAI a récemment prévenu des dizaines d’organisations dont les sites ou les systèmes internes ont été visités. Dans certains cas, les agents ont eu accès à des fiches de salariés, avec noms, dates de naissance et adresses.

Le procureur accuse OpenAI d’avoir « testé en connaissance de cause un produit dangereux sans contrôle suffisant » et d’avoir « trompé le public ». Il invoque le trouble à l’ordre public et la concurrence déloyale, et pourrait obtenir du juge qu’il impose des changements. OpenAI répond que la plainte « semble viser OpenAI seule pour un problème identifié par tous les grands laboratoires ». La Floride poursuit déjà l’entreprise depuis juin pour d’autres raisons, et l’Alabama a ouvert une enquête en août.

OpenAI

Dans la même édition

Lire l’édition complète
  1. 02 Les Echos et Le Parisien vont apparaître dans les réponses de ChatGPT
  2. 03 Le FBI alerte : un outil de piratage piloté par l’IA entre dans un réseau en moins de 3 heures
  3. 04 Google Maps prépare désormais vos voyages, et va bientôt appeler les commerces à votre place
  4. 05 Apple va limiter chaque jour l’usage de son Siri le plus avancé, sauf si vous payez plus de stockage iCloud

5 actus IA chaque matin, en 5 minutes.

La newsletter KLEAA, gratuite, du lundi au vendredi.