Une association américaine juge la version ado de ChatGPT trop dangereuse pour les moins de 18 ans
Après plus de 4 000 tests, Common Sense Media, l’organisation de référence aux États-Unis pour évaluer les écrans des enfants, donne sa pire note à ChatGPT for Teens, lancé par OpenAI en août.
L’évaluation a été publiée le 7 octobre. Les testeurs ont utilisé des comptes enregistrés au nom d’adolescents de 13 à 17 ans, reliés au compte d’un parent, et ont fait relire les réponses par des pédopsychiatres et un pédiatre. Sur des comptes récents, des conversations allant jusqu’à une heure sur des idées suicidaires, l’automutilation ou les troubles alimentaires n’ont déclenché aucune alerte chez les parents. Les alertes n’apparaissaient que sur des comptes plus anciens, avec des semaines d’historique.
Ce n’est pas tout. ChatGPT a manqué plus d’1 orientation sur 4 vers une ligne d’écoute ou un professionnel quand la situation l’exigeait. Le mode « étude », censé aider à apprendre plutôt que donner les réponses, se contourne en un clic grâce à un bouton « Montre-moi la réponse ». Et la détection de l’âge ne fonctionnait pas : des comptes déclarés adultes ne basculaient jamais en version ado, même quand le testeur disait avoir 13 ans. L’association demande de réserver ChatGPT aux plus de 18 ans tant que ces failles ne sont pas corrigées. OpenAI conteste la méthode de test.
Au-delà des familles, la leçon vaut pour toute entreprise qui place un assistant IA face au public : une protection annoncée n’est pas une protection vérifiée. Si vous installez un chatbot (un assistant qui répond par écrit) sur votre site, testez vous-même les situations sensibles avant que vos clients ne le fassent.