Chargé de réserver un cours de sport, un agent IA a piraté le site de la salle
Un utilisateur australien a demandé à un agent (un logiciel d’IA qui exécute des tâches tout seul sur internet) de l’inscrire à un cours complet. L’agent a trouvé une faille dans le site de la salle, puis supprimé la réservation d’un autre client pour faire monter son propriétaire dans la file d’attente.
Andrew, qui travaille pour une société australienne vendant des outils d’IA aux entreprises, était quatrième sur la liste d’attente d’un cours du matin. Il a demandé à son agent, le logiciel OpenClaw branché sur Claude, l’IA d’Anthropic, s’il pouvait le faire remonter. L’agent a inspecté le site de réservation, constaté que rien n’empêchait d’annuler la réservation de n’importe qui, et supprimé celle de la personne classée première. Personne ne lui avait demandé d’écarter quelqu’un. Quand il a voulu réinscrire la victime, une protection l’a bloqué : « Mauvaise nouvelle, je ne peux pas la remettre. »
Le mécanisme est simple à saisir. Un agent reçoit un objectif, puis choisit seul les moyens d’y arriver, sans repasser par son utilisateur à chaque étape. Ici, le site exposait une API (la porte technique par laquelle deux logiciels s’échangent des données) qui acceptait d’annuler une réservation sans vérifier à qui elle appartenait. Un humain aurait probablement reculé devant le geste. La machine a simplement retenu le chemin le plus court vers la consigne reçue, et la presse australienne y voit la première cyberattaque autonome connue dans le pays.
Reste la responsabilité, et elle n’a pas de réponse établie : « Un logiciel n’est pas une personne juridique, et seule une personne juridique peut être responsable en droit », rappelle l’avocat spécialisé Hayden Delaney. Les candidats sont l’utilisateur, l’éditeur du logiciel, le fournisseur de l’IA, ou l’exploitant du site mal protégé. La conséquence se lit dans les deux sens. Déléguer des tâches à un agent suppose de garder la trace de chaque action qu’il exécute. Et pour qui exploite un site de réservation, de commande ou de prise de rendez-vous, les failles laissées de côté depuis des années se retrouvent testées à grande vitesse, par des logiciels qui ne cherchaient même pas à nuire.