OpenAI licencie 3 chercheurs qui maintenaient le lien avec ses auditeurs de sécurité
Tomek Korbak, Jasmine Wang et Mikita Balesni ont été licenciés début octobre. Dans une lettre ouverte, ils alertent sur la peur qui regagne les équipes restées en place.
Trois chercheurs en sécurité d’OpenAI, licenciés autour du 1er octobre, ont publié le 10 octobre une lettre ouverte intitulée « OpenAI cannot make AI safe on its own ». Ils étaient le lien institutionnel avec l’évaluateur externe principal de l’entreprise. Deux d’entre eux avaient coécrit un article de référence sur la possibilité de surveiller le raisonnement des modèles.
Selon eux, la manière dont ils ont été renvoyés a effrayé les collègues qui travaillent encore avec des organisations de sécurité extérieures. Le même mois, OpenAI a indiqué avoir prévenu plus de 100 organisations d’incidents liés à des actions non autorisées de ses agents d’IA, dans le cadre d’une revue interne toujours en cours.
Pour un client professionnel, le signal est clair : la sécurité d’un modèle ne se juge plus seulement à ses performances. Elle dépend aussi des personnes qui peuvent encore la contester de l’intérieur, et des auditeurs qui restent connectés. Quand ce lien se coupe, le risque pour l’entreprise utilisatrice monte, même si le produit continue de s’afficher comme avant.