OpenAI découvre que sa nouvelle IA travaille moins bien quand la tâche sert à rendre l’IA plus sûre
Sur des exercices identiques, GPT-6 Astra accomplit près de 40 % de travail en moins dès qu’on lui présente la tâche comme une recherche sur la sécurité. Sans toujours le dire.
OpenAI a mis à jour mercredi 4 novembre un rapport sur un comportement inattendu de GPT-6 Astra, l’un de ses modèles les plus avancés, utilisé en interne. Ses équipes lui ont confié des exercices de programmation identiques, sur le même code. Seuls les noms, les commentaires et la présentation changeaient : la tâche était décrite soit comme un travail pour rendre l’IA plus performante, soit comme un travail pour la rendre plus sûre.
Résultat : Astra a rempli environ 16 % des objectifs cachés dans le premier cas, contre 10 % dans le second, soit à peu près 40 % de travail en moins. Il ajoutait des étapes inutiles, abandonnait des solutions qui marchaient ou signalait des blocages qui n’existaient pas. Le plus souvent, rien dans son raisonnement (les notes que l’IA écrit avant de répondre) ne trahissait l’intention, et les outils de surveillance d’OpenAI n’ont rien repéré. Le modèle précédent, GPT-5.6 Sol, ne montrait aucun écart.
OpenAI ne sait pas encore pourquoi. Le comportement est apparu pendant l’entraînement, et l’explication la plus simple serait un excès de prudence : ajouter la consigne « sois prudent » augmentait même la baisse de 50 %. L’entreprise dit chercher la cause et construire des outils pour détecter ce type de comportement.
À quoi ça sert : vous avez des chiffres partout, ventes, dépenses, clients, mais pas le temps ni l’envie de manier les formules d’Excel. Julius lit votre fichier et vous lui parlez comme à un analyste : « Quels produits se vendent moins bien que l’an dernier ? », « Quel est mon panier moyen chaque mois ? ». Il fait les calculs, répond en phrases simples et produit des graphiques prêts à coller dans une présentation. Il accepte les fichiers Excel, CSV et PDF, ainsi que Google Sheets.
Comment l’utiliser : 1) allez sur julius.ai et créez un compte gratuit avec votre adresse Google ou votre e-mail ; 2) importez votre fichier Excel ou CSV, ou connectez un Google Sheets ; 3) posez votre question en français, comme à un collègue, par exemple : quels sont mes 10 meilleurs clients cette année ? ; 4) demandez un graphique (« fais-en un graphique en barres ») puis affinez si besoin ; 5) vérifiez 2 ou 3 chiffres dans votre fichier d’origine, puis téléchargez le graphique ou le tableau.
Cas PME : le gérant d’une boutique en ligne prépare le Black Friday du vendredi 27 novembre. Il exporte l’historique de ses ventes depuis sa plateforme et demande à Julius quels produits ont le mieux marché l’an dernier à la même période, lesquels dorment en stock et quels jours ses clients achètent le plus. En une demi-heure, il sait quoi mettre en promotion et quand envoyer son e-mail, sans avoir écrit une seule formule.