New York veut infliger 25 000 dollars d’amende par IA qui enfreint ses règles
La présidente du conseil municipal de New York a présenté dix projets de loi sur l’intelligence artificielle. Toute entreprise qui vend ou utilise une IA dans la ville devrait la faire contrôler par un organisme extérieur et prévoir un bouton d’arrêt manuel.
Julie Menin, qui préside le conseil municipal, a dévoilé ces textes le 25 septembre. Le principal interdit de vendre ou de déployer un système d’IA à New York sans qu’un contrôleur indépendant ait vérifié la qualité de ses données, ses biais, le respect de la vie privée et sa sécurité. Chaque système devrait aussi comporter un interrupteur d’urgence (un moyen pour un humain de tout couper à tout moment). En cas de manquement, l’amende atteint 25 000 dollars par infraction.
Le détail qui compte est dans le calcul. L’amende s’applique à chaque système fautif, y compris à chaque agent (un logiciel qui agit tout seul à votre place) quand une entreprise en fait travailler plusieurs ensemble. Dix agents en défaut, ce sont potentiellement dix amendes. Les autres textes prévoient de récompenser les lanceurs d’alerte avec une partie des amendes, d’obliger les prestataires de la ville à signaler tout incident en moins de 24 heures et d’interdire les deepfakes (les fausses vidéos ou voix fabriquées par IA) trompeurs.
Une audition est prévue le 5 octobre, et les patrons d’OpenAI, de Google, d’Anthropic et de Meta y sont invités. Rien n’est encore voté. Mais la logique est nouvelle : jusqu’ici, les règles visaient surtout les fabricants d’IA. À New York, l’entreprise qui l’utilise paierait aussi, ce qui oblige à savoir précisément quels outils tournent chez soi et qui peut les arrêter.