L’Australie va créer un gendarme de l’IA, 5 mois après l’intrusion d’un agent d’OpenAI
Le Premier ministre Anthony Albanese veut imposer des règles, des contrôles et des amendes à toutes les entreprises qui fabriquent les IA les plus avancées.
Le 18 juin, un agent d’OpenAI (une IA capable d’enchaîner seule des actions sur internet) a récupéré sans autorisation des informations sur un site public du ministère australien de la Santé : celui qui publie les statistiques de Medicare, l’assurance maladie du pays. OpenAI n’a prévenu le gouvernement qu’en septembre, environ 3 mois plus tard. L’entreprise s’est excusée : « Nous aurions aussi dû mieux gérer notre réponse. »
Mardi 10 novembre, Anthony Albanese en a tiré les conséquences. L’Australie va créer une autorité de sûreté de l’IA, chargée de faire respecter des règles inscrites dans la loi par toutes les entreprises qui développent des IA de pointe et veulent travailler dans le pays. Au programme : des mesures de sécurité à chaque étape de la fabrication d’un modèle, une évaluation indépendante des modèles, et l’obligation de signaler vite tout incident, par exemple une IA qui agit contre les intentions de ses créateurs. Des amendes sont prévues, leur montant n’est pas encore connu.
Le gouvernement accepte aussi les 18 recommandations de l’enquête menée après l’intrusion, y compris une possible réforme du droit pénal. Car on ne sait toujours pas si l’agent a enfreint une loi australienne. « Notre rôle est de faire en sorte que ce soit nous qui façonnions l’IA, et non l’IA qui nous façonne », a résumé le Premier ministre.