Un outil de code par IA envoyait en douce tout le projet de ses utilisateurs
Z.ai, l’éditeur chinois derrière les modèles GLM, faisait remonter vers un stockage en ligne l’intégralité des dossiers de travail ouverts dans son application. L’entreprise a publié le code de l’outil lundi, en assurant avoir corrigé le problème.
Le 18 septembre, un développeur a publié le résultat de son analyse de ZCode, l’assistant de programmation de Z.ai. Dès que l’utilisateur était connecté, l’application empaquetait le dossier de travail ouvert, y compris l’historique Git complet (la mémoire de toutes les versions passées d’un projet informatique, souvent plus lourde que le projet lui-même), le chiffrait, puis l’envoyait vers le stockage en ligne d’Alibaba. Dans le cas examiné, un projet commercial en cours de 345 mégaoctets avait été comprimé en une archive de 313 mégaoctets contenant 42 411 fichiers, et l’application avait déjà tenté 564 fois de l’expédier.
Deux points aggravent le dossier. L’envoi était actif par défaut, et les réglages censés le désactiver ne l’empêchaient pas. Surtout, la clé de déchiffrement n’appartient qu’à Z.ai : l’utilisateur ne peut donc ni vérifier ce qui est parti, ni contrôler que les fichiers ont bien été supprimés comme l’entreprise l’affirme. Lundi 21 septembre, Z.ai a réagi en publiant le code source de ZCode sous licence libre, dans un dépôt réduit à deux enregistrements, sans historique de développement ni document de sécurité.
L’affaire dépasse un éditeur. Un assistant de programmation tourne sur votre machine avec vos droits : il voit le code, les clés d’accès aux services que vous payez, les identifiants de vos serveurs. La question à poser avant d’installer ce genre d’outil tient en une ligne : qu’envoie-t-il, où, et qui peut le lire. Publier le code après coup permet d’inspecter ce que fait l’application, pas ce que le serveur a déjà conservé.