Chez Cloudflare, une IA a renvoyé à des clients des morceaux de demandes envoyées par d’autres
Pendant près de 2 semaines, 155 réponses d’un modèle hébergé par le géant du web contenaient des fragments de demandes d’autres utilisateurs. Le défaut est corrigé.
Cloudflare protège et accélère une grande partie des sites web. L’entreprise loue aussi l’accès à des IA, que des sociétés branchent dans leurs propres applications. Entre le 27 août et le 9 septembre, l’un de ces modèles, GLM 5.3 (une IA du chinois Z.AI), a mélangé les données de ses clients. 155 réponses contenaient des morceaux de demandes envoyées juste avant par d’autres utilisateurs du même modèle.
Le problème ne touchait que des demandes immenses, de plus de 681 000 jetons, soit l’équivalent de plusieurs livres collés d’un coup. Le modèle acceptait des textes plus longs que la mémoire prévue pour les traiter. Au lieu de refuser la demande, le logiciel poursuivait et allait lire des zones de mémoire qui contenaient encore les données d’autres clients, puis renvoyait une réponse normale.
Un chercheur en sécurité a signalé la faille le 8 septembre. Cloudflare a coupé le modèle dès le lendemain, corrigé le problème et l’a remis en ligne le soir même. L’entreprise a attendu lundi pour tout raconter, le temps que le logiciel en cause, utilisé par d’autres hébergeurs d’IA, soit lui aussi réparé. Elle dit n’avoir trouvé aucune trace d’exploitation volontaire.