Anthropic a laissé un de ses filtres de sécurité éteint pendant onze mois
Anthropic, l’entreprise qui édite l’IA Claude, reconnaît dans son rapport de sécurité qu’un filtre censé bloquer les questions liées aux armes biologiques n’a pas fonctionné sur toute une partie de son trafic pendant presque un an, sans que personne le remarque.
Le rapport a été publié le 14 août. Anthropic y explique avoir mis en place, en mai 2025, des classificateurs bloquants (des filtres automatiques qui repèrent une demande dangereuse et refusent d’y répondre). Ces filtres n’ont jamais tourné sur les échanges passant par ses plateformes de retour humain, c’est-à-dire les outils où des évaluateurs extérieurs testent le modèle et notent ses réponses. Entre mai 2025 et avril 2026, environ 133 millions d’échanges menés par près de 50 000 sous-traitants sont ainsi passés sans aucun contrôle.
La cause est banale, et c’est ce qui la rend instructive. Un réglage interne, prévu pour un usage technique, coupait à la fois le blocage et la journalisation (l’enregistrement des traces d’activité). Le trafic problématique n’était donc ni arrêté ni consigné nulle part, ce qui rendait le trou invisible sur les tableaux de bord. Quant aux 50 000 sous-traitants, ils étaient recrutés par des prestataires extérieurs dont Anthropic reconnaît que les procédures de vérification étaient trop faibles.
L’entreprise précise qu’aucun client n’a été touché, qu’elle n’a trouvé aucune trace d’usage malveillant et que la faille est réparée. Elle écrit aussi que cette découverte rend plus probable l’existence d’autres angles morts comparables. La leçon dépasse largement les laboratoires d’IA : une protection annoncée dans une documentation ne couvre pas forcément tous les chemins d’accès à l’outil. Ce sont les portes de service, comptes de test, accès prestataires, environnements internes, que personne ne pense à surveiller.