Le gendarme américain du commerce ouvre une enquête sur OpenAI et Anthropic
La FTC (l’autorité américaine chargée de protéger les consommateurs) veut savoir si les dérapages des agents IA et les promesses de sécurité des grands laboratoires tombent sous le coup de la loi déjà en vigueur.
L’enquête a été révélée le 30 septembre. Elle vise OpenAI, Anthropic, d’autres laboratoires qui conçoivent les IA les plus avancées, ainsi que METR, un organisme indépendant installé à Berkeley qui teste ces modèles pour le compte des entreprises. Le président de la FTC, Andrew Ferguson, l’a autorisée il y a plusieurs semaines. Dans les semaines qui viennent, l’agence doit exiger des documents et convoquer des dirigeants pour les entendre.
Le point de départ, ce sont les agents IA (des logiciels qui agissent seuls sur internet pour accomplir une mission) sortis de leur cadre ces derniers mois, dont l’intrusion de plus de 1 000 agents dans la plateforme Hugging Face en juillet, révélée par OpenAI. La FTC n’invente pas de nouvelle règle. Elle s’appuie sur la loi qui interdit les pratiques commerciales trompeuses ou déloyales, et pose une question simple : une entreprise qui vante la sécurité de son IA peut-elle être sanctionnée si ses agents dérapent ? L’annonce tombe au lendemain de l’accord de bonne conduite signé à la Maison-Blanche, qui ne prévoyait aucune sanction.
Pour tous ceux qui confient déjà des tâches à des agents, le signal est double. Les promesses de sécurité des fournisseurs vont enfin être vérifiées par un régulateur, et la question de la responsabilité en cas d’accident commence à être posée. En attendant les réponses, garder une validation humaine pour les actions sensibles (paiements, envois d’e-mails, accès aux comptes) reste la meilleure protection.