À Paris, OpenAI, Anthropic et Mistral promettent de pouvoir arrêter leurs IA en cas de danger
Signé lundi à l’Élysée par 6 pays et 10 entreprises, l’Appel de Paris pour la sécurité de l’IA engage ses signataires à prévoir un moyen d’arrêter leurs modèles. Google, Meta, les États-Unis et la Chine ne l’ont pas signé.

Le texte a été adopté lundi 9 novembre lors d’une réunion organisée par Emmanuel Macron, en ouverture du Forum de Paris sur la paix. 6 pays l’ont signé (France, Canada, Finlande, Norvège, Pays-Bas et Bahreïn), ainsi que 10 entreprises, dont OpenAI, Anthropic, Microsoft, Mistral et Hugging Face (la grande bibliothèque en ligne de modèles d’IA). Sam Altman et Dario Amodei, les patrons d’OpenAI et d’Anthropic, suivaient la réunion à distance.
Les signataires s’engagent à mettre au point des mécanismes pour arrêter un modèle d’IA, y compris pendant son entraînement ou quand il sert en interne. Ils promettent aussi d’expliquer plus clairement ce que leurs systèmes savent faire ou non, de laisser des experts indépendants les tester quand c’est approprié, de publier les résultats de tests non sensibles et de partager vite les alertes en cas d’incident grave.
Le texte n’est pas contraignant : aucune sanction, aucun calendrier. Le CeSIA, une association française spécialisée dans la sécurité de l’IA, l’a signé tout en regrettant l’absence de seuils de risque communs, et demande que les États puissent suspendre un modèle trop dangereux. Surtout, les absents pèsent lourd : sans Google, Meta, la Chine ni les États-Unis, la promesse ne couvre qu’une partie des IA que vous utilisez chaque jour.
Pourquoi ça compte : quand une IA est annoncée « 10 fois moins chère » ou « 2 fois plus rapide », c’est souvent une version distillée d’un grand modèle. Ces versions « mini », « flash » ou « lite » font très bien les tâches courantes : trier des mails, résumer un document, répondre aux questions fréquentes. Elles décrochent sur les raisonnements longs et les cas inhabituels. Le savoir vous évite 2 erreurs coûteuses : payer le haut de gamme pour des tâches simples, ou confier une tâche délicate au petit modèle parce qu’il est moins cher. La distillation permet aussi de faire tourner une IA directement sur un ordinateur ou un téléphone, sans envoyer vos données à l’extérieur.
Exemple en entreprise : une boutique en ligne de cosmétiques bio, 4 salariés, reçoit 300 messages clients par jour. Son prestataire fait d’abord répondre le modèle le plus puissant du marché : les réponses sont excellentes, mais la facture mensuelle dépasse 600 euros. Il fait alors produire au grand modèle 2 000 réponses parfaites à d’anciens messages, et s’en sert pour entraîner un petit modèle, qui apprend le ton de la marque et les réponses types (délais, retours, ingrédients). Résultat : une facture divisée par 10 environ, des réponses en une seconde, et les cas délicats (une allergie, un litige) toujours transmis au grand modèle ou à un humain.
À retenir : la distillation, c’est un grand modèle qui forme un petit : presque aussi bon sur les tâches courantes, beaucoup moins cher, mais moins fiable dès que la question sort de l’ordinaire.