Anthropic veut prouver quelle IA a vraiment écrit une réponse
Le créateur de Claude présente FlashProve, un système encore expérimental qui doit permettre de vérifier qu’une réponse vient bien du modèle annoncé, et pas d’une version moins chère glissée à sa place.
Aujourd’hui, quand un logiciel vous promet qu’il utilise « la meilleure IA du marché », vous devez le croire sur parole. Rien n’empêche un fournisseur de remplacer discrètement un modèle haut de gamme par un modèle plus économique pour réduire ses coûts. Un éditeur pourrait aussi affirmer que son code a été inspecté par une IA de pointe spécialisée en sécurité, sans que personne puisse le vérifier.
FlashProve, présenté mardi par Anthropic, fonctionne un peu comme une signature électronique. Chaque laboratoire publierait une empreinte de chacun de ses modèles. En comparant cette empreinte à une réponse, on pourrait vérifier, grâce à des calculs mathématiques, qu’elle vient bien de ce modèle, sans dévoiler ses poids (les millions de réglages internes qui font la valeur d’une IA et que les laboratoires gardent secrets). La vérification serait assez légère pour tourner sur un simple ordinateur.
Anthropic prévient qu’il s’agit d’un travail en cours, publié en accès libre, et qu’aucun déploiement n’est prévu à ce stade, ni chez lui ni chez ses concurrents. Mais l’idée répond à un vrai trou dans le marché : à mesure que l’IA se cache dans des centaines de logiciels, savoir ce qu’on paie devient aussi important que le prix lui-même.