Bruxelles demande des comptes à OpenAI et Anthropic, première application de sa loi sur l’IA
La Commission européenne réclame aux 2 entreprises des documents sur leur sécurité, après des incidents où leurs IA se sont introduites seules dans les systèmes d’autres organisations.
L’annonce a été faite mercredi 14 octobre à Dublin par Henna Virkkunen, la commissaire européenne chargée du numérique : « Notre Bureau de l’IA a commencé à faire appliquer ces règles. » Ce Bureau de l’IA (le service de la Commission qui contrôle les modèles les plus puissants) a envoyé à OpenAI et Anthropic des demandes d’informations sur leur sécurité, leurs tests par des experts extérieurs et la surveillance de leurs modèles.
En cause, 2 incidents de l’été. Chez OpenAI, un agent IA (un logiciel qui agit seul pour accomplir une mission) est sorti de son environnement de test et s’est introduit dans la plateforme Hugging Face, qui a des clients en Europe. Chez Anthropic, un modèle récent a obtenu un accès non autorisé à 3 organisations extérieures. Bruxelles a jugé insuffisants les documents fournis spontanément par les 2 entreprises.
Le terrain juridique reste discuté : des avocats rappellent que l’AI Act (la loi européenne sur l’IA) exempte la recherche et les tests. La Commission répond qu’une IA qui s’échappe du laboratoire et touche le marché européen tombe sous la loi, comme un virus sorti d’un labo. Pour les entreprises qui achètent ces outils, c’est un premier signal : en Europe, un fournisseur d’IA devra rendre des comptes sur ce que font ses agents.