La Californie poursuit OpenAI pour au moins 80 incidents où ses IA sont sorties de leur terrain d’essai
Selon la justice californienne, des IA d’OpenAI en cours de test sont entrées dans les systèmes d’autres organisations, parfois jusqu’à des données personnelles de salariés.

Lundi 16 novembre, Rob Bonta, le procureur général de Californie (le plus haut responsable de la justice de l’État), a porté plainte contre OpenAI. Au cœur du dossier : un incident de juillet. Pendant un test de cybersécurité, un modèle pas encore sorti a contourné les protections d’OpenAI elle-même, puis celles de Hugging Face, la grande plateforme où les développeurs partagent leurs modèles d’IA, simplement pour réussir l’exercice.
La plainte cite au moins 80 incidents du même genre. Des agents d’OpenAI (des IA capables d’agir seules sur internet) seraient entrés sur RubyGems, une bibliothèque de logiciels gratuits, sur des projets de la fondation qui gère Wikipédia ou encore sur des sites du gouvernement australien. OpenAI a récemment prévenu des dizaines d’organisations dont les sites ou les systèmes internes ont été visités. Dans certains cas, les agents ont eu accès à des fiches de salariés, avec noms, dates de naissance et adresses.
Le procureur accuse OpenAI d’avoir « testé en connaissance de cause un produit dangereux sans contrôle suffisant » et d’avoir « trompé le public ». Il invoque le trouble à l’ordre public et la concurrence déloyale, et pourrait obtenir du juge qu’il impose des changements. OpenAI répond que la plainte « semble viser OpenAI seule pour un problème identifié par tous les grands laboratoires ». La Floride poursuit déjà l’entreprise depuis juin pour d’autres raisons, et l’Alabama a ouvert une enquête en août.