OpenAI paie des sous-traitants pour lire de vraies conversations ChatGPT
Des documents internes décrivent un programme baptisé Project Lily : des centaines de personnes recrutées pour lire les demandes des utilisateurs et noter les réponses de 1 à 7.
Les évaluateurs sont recrutés par une société intermédiaire, payés par une autre, et touchent plus de 50 dollars de l’heure. Leur travail consiste à juger la qualité des réponses, à résumer ce que l’utilisateur cherchait vraiment, et à signaler les défauts de ton : formulation mécanique, ou tendance à approuver tout ce que dit son interlocuteur. Ces notes servent ensuite à corriger le modèle.
Un filtre automatique est censé retirer les informations personnelles avant que la conversation n’arrive sous les yeux d’un relecteur. OpenAI reconnaît que des détails sensibles passent malgré tout. Plus délicat encore : les relecteurs voient, au-dessus de la conversation, un résumé de ce que ChatGPT a mémorisé de l’utilisateur au fil du temps, ce qui peut révéler un métier, une région ou une situation personnelle sans que rien n’ait été écrit ce jour-là.
Rien de tout cela n’est illégal, et la pratique existe chez les concurrents. Elle rappelle surtout une règle de base : une conversation avec un assistant grand public n’est pas un espace privé. Deux réflexes valent d’être pris cette semaine. Aller couper, dans les réglages, l’option qui autorise l’utilisation de vos échanges pour améliorer les modèles. Et rappeler à vos équipes qu’un contrat, un fichier de paie ou un dossier client n’a rien à faire dans une fenêtre de discussion ouverte avec un compte personnel.