Derrière certains assistants IA qui font vos démarches, ce sont encore des humains qui passent les appels
Plusieurs jeunes entreprises américaines qui vendent un agent IA (un logiciel censé accomplir des tâches à votre place) confient en réalité les appels et les vérifications à des travailleurs humains. Les IA ne savent pas encore tout faire seules.
L’enquête a été publiée par la chaîne américaine CNBC le 31 octobre. Dazzle AI, fondée par Marissa Mayer, l’ancienne patronne de Yahoo, utilise les meilleurs modèles d’IA pour dresser une liste d’artisans ou de produits, puis fait vérifier le résultat par des personnes. Dans un exemple cité, l’IA a confondu une vitre de fenêtre avec un plateau de table en verre, et un humain a corrigé l’erreur en quelques secondes. Wajo AI fait appel à des personnes pour passer les coups de fil et franchir les CAPTCHA (les petits tests « je ne suis pas un robot » des sites web).
Duckbill va plus loin : la société vient d’ouvrir un service qui permet à d’autres entreprises d’envoyer des tâches à des travailleurs indépendants, comme Uber envoie des courses à des chauffeurs. Sa patronne explique découper chaque demande en tout petits morceaux qu’un adulte ordinaire peut réaliser sans erreur. Meta, qui avait testé des sous-traitants humains pour passer des appels avec son assistant Muse, affirme ne plus le faire aujourd’hui.
Ces dirigeants l’assument : sans humain, l’utilisateur abandonne l’agent dès le premier échec. Le revers, c’est la confidentialité. Quand une démarche personnelle ou professionnelle est confiée à un assistant, rien ne garantit qu’une IA seule la traitera. Avant de brancher un tel service sur des données clients ou des échanges sensibles, il vaut mieux demander qui, concrètement, lit et exécute les demandes.