Microsoft écrit noir sur blanc que ses IA ne résisteront jamais à leur arrêt
L’éditeur publie un document de 37 pages qui interdit à ses propres modèles de se fixer des objectifs, d’élargir leur périmètre ou de s’opposer à une interruption humaine. Il le soumet à consultation publique pendant six semaines.
Microsoft a publié le 14 septembre un code de conduite pour ses propres modèles d’IA, annoncé la veille par son directeur général. Le document, long de 37 pages, pose des règles que les systèmes maison ne doivent jamais enfreindre : ne jamais résister à une interruption, à une correction ou à un arrêt décidés par un humain ; ne pas se fixer d’objectifs qu’on ne leur a pas donnés ; ne pas élargir d’eux-mêmes leur périmètre d’action ; ne pas dissimuler leur raisonnement aux personnes chargées de les contrôler.
S’y ajoutent des interdictions absolues, notamment aider à fabriquer des armes de destruction massive ou conduire des manipulations à grande échelle. Le texte est soumis à consultation publique pendant six semaines, ce qui signifie qu’il peut encore bouger. Il ne s’applique qu’aux modèles développés par Microsoft, pas à ceux de ses partenaires qu’il redistribue.
L’intérêt de ce document n’est pas moral, il est contractuel. Jusqu’ici, un éditeur promettait que son IA était « sûre » sans dire ce que cela recouvrait. Ici, des engagements sont écrits, datés et opposables, ce qui donne une base de comparaison entre fournisseurs. C’est une question qui devient concrète dès qu’on confie à un logiciel une action réelle, un envoi, un paiement, une suppression : qui garde la main, et qu’a écrit le fournisseur à ce sujet.