3 chercheurs ont pris la main sur des comptes de salariés d’OpenAI

Les 3 chercheurs travaillent chez Hacktron AI, une jeune pousse de sécurité. Leur point de départ n’était pas ChatGPT mais le forum communautaire d’OpenAI, un outil annexe qui tourne sur un logiciel de discussion du commerce. Une image au format HEIF, fabriquée pour l’occasion, a provoqué un débordement de mémoire dans la brique qui décode ce format. De là, une seconde faille, cette fois du côté de la page de connexion d’OpenAI, a permis de récupérer des sessions déjà ouvertes de salariés. La chaîne complète a tenu en moins de 72 heures.

Le détail qui a fait parler : le programme d’attaque a été écrit par une IA. Les chercheurs racontent avoir échoué pendant plusieurs sessions avec la version précédente de Claude, puis avoir réussi avec la suivante dans les heures qui ont suivi sa sortie. Pour prouver l’accès sans lire le moindre document confidentiel, ils ont utilisé l’outil de code d’un employé pour ouvrir une demande de modification inoffensive dans le dépôt interne d’OpenAI. L’entreprise a confirmé son correctif environ 14 heures après le signalement et versé une prime de 6 500 dollars, en précisant qu’elle récompensait la faille de son côté, pas les actions menées contre le forum.

2 leçons, et aucune ne concerne l’intelligence artificielle. La première : la porte d’entrée était un forum, c’est-à-dire l’outil que personne ne surveille. Faites la liste des services branchés à votre système de connexion, le support, le blog, l’outil de sondage, l’espace client ; chacun est une porte, et la plus faible décide du niveau de sécurité de l’ensemble. La seconde : le coût d’une attaque s’effondre. Ce qui exigeait un spécialiste rare et plusieurs semaines tient désormais en 3 jours avec un outil vendu quelques dizaines d’euros par mois. La bonne nouvelle est que la défense dispose exactement des mêmes outils.