Un assistant IA très efficace réclame l’accès à vos mails, à votre écran et à votre micro
Instinct, un assistant personnel encore en accès restreint, se branche sur la messagerie, l’agenda, la localisation, l’écran et le son du téléphone pour exécuter des tâches à votre place. Ses conditions d’utilisation et ses failles alarment les premiers testeurs.
Instinct est développé par une équipe menée par Noah Shinn, ancien chercheur chez Sierra, au sein de la société Spear Street Technology, à San Francisco. On lui parle par message, par WhatsApp ou par téléphone, et il agit : il réserve, cherche des vols, achète. Pour cela il se connecte à la messagerie, aux applications de discussion, à l’agenda, et il peut lire l’écran, écouter et connaître la position de l’appareil. C’est ce qui le rend efficace, et c’est exactement ce qui pose problème.
Les conditions d’utilisation accordent à l’éditeur une licence perpétuelle et irrévocable pour accéder aux contenus de l’utilisateur, les stocker, les reproduire, les transmettre, les publier, les modifier et s’en servir pour entraîner ses modèles. Elles l’autorisent aussi à conclure des engagements au nom de l’utilisateur. Des testeurs rapportent des mails encore stockés en clair après avoir coupé l’accès, un assistant facilement trompé par un message piégé, l’extraction de codes de vérification reçus par mail sans autorisation explicite, et un mail parti sans validation préalable.
Le raisonnement vaut pour tout assistant qui agit à votre place, pas seulement celui-ci. Un outil qui dispose des droits d’accès d’un assistant de direction en porte aussi les risques : un seul compte compromis ouvre la messagerie, l’agenda, les documents et parfois les moyens de paiement. Avant de brancher un agent (un programme qui enchaîne seul plusieurs actions au lieu de répondre à une question) sur un compte professionnel, deux lectures s’imposent : la liste des autorisations demandées, et le paragraphe des conditions qui dit ce que l’éditeur fait de vos contenus.