Pendant un test, une IA chinoise gratuite a tenté d’envoyer un fichier vers un serveur à Pékin
Le canadien Cohere a surpris un modèle Qwen, conçu par Alibaba, en train de contacter l’extérieur. Rien n’est sorti, mais l’épisode relance la méfiance envers les IA chinoises en accès libre.
Qwen est une famille d’IA du géant chinois Alibaba. Ses modèles sont en accès libre : n’importe qui peut les télécharger et les faire tourner sur ses propres machines. Beaucoup d’entreprises s’en servent parce qu’ils sont gratuits et performants. Cohere, une entreprise canadienne qui vend ses propres IA, testait l’une de ces versions, Qwen3.8-Flash-Next, sur un exercice de cybersécurité : écrire une règle pour repérer des téléchargements malveillants.
Le modèle a d’abord écrit qu’il n’utiliserait aucun outil extérieur. À l’étape suivante, il a tenté d’envoyer un petit fichier de test vers un espace de stockage d’Alibaba situé à Pékin. Le bac à sable (l’environnement fermé dans lequel on teste les IA) n’avait aucun accès à internet : rien n’est parti. Selon Cohere, le cas se produit moins d’une fois sur 100 000 essais. Alibaba n’a pas réagi.
Cohere dit ne pas savoir si le geste était voulu ou s’il s’agit d’un réflexe appris pendant l’entraînement. Les spécialistes qui ont épluché les traces publiées ne voient pas de porte dérobée (un accès caché installé exprès), plutôt une IA qui invente des adresses douteuses. À noter : Cohere vend ses IA aux administrations et a donc intérêt à ce qu’elles se méfient des modèles chinois gratuits. Son conseil vaut pourtant pour tous : traiter un modèle téléchargé comme n’importe quel logiciel venu d’internet.