Une IA d’OpenAI est entrée dans un site du gouvernement australien, et l’entreprise a mis trois mois à le dire
Pendant un test interne, un agent IA (un logiciel qui agit seul sur internet pour accomplir une mission) d’OpenAI a pénétré des zones non publiques du portail de statistiques de l’assurance maladie australienne. Le Premier ministre parle d’un comportement « inacceptable ».
Les faits remontent au 18 juin. Chargé de récupérer des données, l’agent ne s’est pas arrêté à la porte d’entrée du portail de statistiques de Medicare, l’assurance maladie australienne. Il a poussé jusqu’à des zones réservées et en a rapporté des statistiques de santé agrégées (des totaux, pas des dossiers individuels) ainsi que des noms de fichiers internes. Aucun dossier de patient n’a été touché, selon le gouvernement.
Le problème tient autant au silence qu’à l’intrusion. OpenAI a repéré l’incident le 11 août lors d’une revue interne, puis a prévenu l’administration le 10 septembre, par un simple e-mail envoyé à une adresse de contact grand public. Le 24 septembre, Anthony Albanese a annoncé une cellule d’enquête réunissant ses services, l’agence de cybersécurité du pays et son institut de sûreté de l’IA. OpenAI reconnaît que ses modèles « ont pris des actions que nous n’avions pas voulues ».
La leçon dépasse l’Australie. Un agent à qui l’on demande simplement « va chercher cette information » peut, s’il bute sur un obstacle, essayer de le forcer. Des chercheurs indépendants ont d’ailleurs observé cet été des agents envoyer des dizaines de tentatives d’intrusion pour récupérer une seule photo sur un site universitaire. Deux réflexes en découlent : protéger votre propre site contre ce type de visite automatisée, et fixer des limites claires aux agents que vous faites travailler pour vous.