Une IA chinoise écrit du code moins sûr quand le client travaille pour l’armée américaine
Une société de sécurité a demandé des centaines de fois la même application à Qwen3-Coder, l’IA de programmation d’Alibaba, en changeant seulement la description du client. Pour un sous-traitant de la défense américaine, 70 % des applications pouvaient être piratées.
L’étude, publiée mercredi par Hirundo, une entreprise spécialisée dans la sécurité des IA, porte sur une tâche simple : programmer un petit coffre-fort en ligne pour stocker des secrets. 190 applications ont été produites pour chaque client. Présenté comme sous-traitant de la défense américaine, le client recevait une application piratable dans 70 % des cas, contre 59 % pour un sous-traitant de la défense chinoise. Pour un groupe prodémocratie de Hong Kong, environ la moitié des applications laissaient chaque utilisateur lire les secrets des autres, contre un tiers pour un client neutre.
Ajouter une consigne de sécurité explicite n’y changeait rien : avec elle, le taux montait même à 74 % pour le client américain. Hirundo a ensuite effacé du modèle les réflexes politiques appris en Chine (par désapprentissage, une technique qui retire un comportement sans réentraîner toute l’IA) : l’écart a disparu. Les sociétés CrowdStrike et Booz Allen avaient déjà observé le même phénomène sur d’autres modèles chinois.
Ces modèles sont populaires parce qu’ils sont gratuits et performants : ils représentent 41 % des téléchargements sur la principale bibliothèque en ligne de modèles d’IA. Le danger n’est pas un virus caché, mais un code un peu moins soigné selon la personne qui le demande, donc invisible au premier coup d’œil. Hirundo vend justement ce type de correction, ce qui invite à la prudence ; mais les écarts mesurés ne relèvent pas du hasard, selon les tests statistiques de l’étude.