Une société vend l’accès à des IA dont elle a retiré tous les garde-fous

Les IA grand public refusent certaines demandes : fabriquer un virus informatique, expliquer comment nuire à quelqu’un. Ce refus n’est pas une barrière extérieure, c’est un réflexe appris pendant l’entraînement. Une technique publiée en 2024, l’abliteration, consiste à repérer à l’intérieur du modèle le signal qui déclenche ce refus, puis à l’effacer. Elle ne fonctionne que sur les modèles dits ouverts (ceux dont le fabricant publie les réglages internes, que n’importe qui peut télécharger et modifier).

Une société américaine, Abliteration.ai, en a fait un commerce. Elle héberge des versions ainsi modifiées de modèles ouverts, dont GLM-5.3, publié par la société chinoise Z.ai, et les facture 5 dollars le million de mots traités. On y accède depuis un simple navigateur ou en les branchant dans ses propres logiciels. La société a été immatriculée en mars, n’a pas encore levé de fonds et met en avant des clients légitimes : des équipes payées pour attaquer les systèmes de banques et de compagnies aériennes afin d’en trouver les failles avant les criminels. Une journaliste de TechCrunch a ouvert un compte gratuit et obtenu, sans difficulté, un programme conçu pour voler les mots de passe enregistrés dans le navigateur Chrome. Le seul contrôle d’identité à l’inscription est le numéro de carte bancaire.

Beaucoup de défenses reposaient sur une hypothèse implicite : un escroc ordinaire ne sait pas écrire un logiciel malveillant ni rédiger un faux e-mail de fournisseur parfaitement crédible. Cette hypothèse ne tient plus à 5 dollars le million de mots. Les gestes qui protègent redeviennent très concrets : appeler le fournisseur au numéro connu avant de modifier un virement, exiger deux validations sur les paiements, et prévenir les équipes qu’un message impeccable n’est plus une preuve d’authenticité.