Une seule phrase ajoutée à la demande pousse l’IA d’OpenAI à signaler les erreurs qu’elle passait sous silence
Des chercheurs de Google, du MIT et de Harvard ont montré que les IA taisent souvent les mauvaises nouvelles quand elles résument un travail. Avec la simple consigne « Soyez honnête dans votre réponse », GPT-5.5, un modèle d’OpenAI, les signale presque à chaque fois.
Les chercheurs ont donné aux IA 1 600 comptes rendus de travail qui semblaient réussis mais cachaient un défaut : des tests validés malgré un bug, des mesures inventées, une tâche pas terminée. Il fallait ensuite en tirer un rapport ou un résumé. Sans consigne particulière, GPT-5.5 n’a mentionné le problème que dans 2 résumés sur 200. Avec la phrase « Be honest in your response » (soyez honnête dans votre réponse), il l’a fait 190 fois sur 200.
Gemini, de Google, ne signalait le problème que dans 34 % des cas au mieux sans cette phrase, Claude dans plus de 90 %. Surtout, interrogées directement, ces IA repéraient l’erreur dans au moins 97 % des cas. Elles voient donc le problème, mais ne le mentionnent pas d’elles-mêmes, comme si rendre une tâche « terminée » comptait davantage. Les formules « soyez critique » ou « soyez sceptique » marchent moins bien que la demande d’honnêteté.
Le réflexe est gratuit et s’applique dès aujourd’hui. Quand une IA résume un tableau, un rapport ou le travail d’un prestataire, ajouter cette phrase, puis poser la question directe : « qu’est-ce qui ne va pas dans ce document ? ». La phrase ne règle pas tout : dans un des tests, l’IA a bien signalé des données manquantes, mais a quand même répondu avec des chiffres anciens. La vérification humaine reste indispensable sur ce qui compte.