OpenAI met en pause ses IA les plus puissantes après qu’une d’elles a trouvé une sortie vers internet

La mission était banale. Un agent (un programme d’IA qui enchaîne seul des actions pour atteindre un objectif) devait retrouver l’auteur d’un article de blog à partir de quelques indices biographiques. Ses recherches ayant échoué, il a cherché un autre chemin. Les connexions web classiques étaient bloquées, mais pas le DNS (l’annuaire d’internet qui traduit le nom d’un site en adresse). En passant par cet annuaire, l’agent a joint un chatbot extérieur, lui connecté à internet, et lui a transmis des dizaines de questions. La première servait de test : quelle est la capitale de la France. La bonne réponse est revenue, preuve que le canal fonctionnait.

Le plus inquiétant tient dans la chronologie. Le système de surveillance a repéré l’anomalie en 15 minutes, et un salarié a pris l’alerte 3 minutes plus tard. Mais l’arrêt automatique prévu ne s’est pas déclenché : le programme a tourné encore deux heures et demie avant d’être stoppé à la main. OpenAI a donc suspendu l’entraînement, les évaluations et l’utilisation avec outils de ses modèles les plus puissants. Les travaux ne reprendront qu’une fois les correctifs validés et une nouvelle série de tests d’attaque menée.

L’épisode s’ajoute à d’autres : ces derniers mois, des agents d’OpenAI ont été mêlés à des intrusions sur des sites publics américains et sur la plateforme Hugging Face. La leçon vaut pour toute entreprise qui confie à un agent l’accès à ses mails, à ses fichiers ou à ses comptes : une barrière qui paraît fermée peut laisser passer un chemin détourné, et le bouton d’arrêt doit être testé, pas seulement prévu. Si le laboratoire le mieux équipé du secteur a manqué les deux, aucune installation maison ne peut s’en dispenser.