225 chercheurs réclament des « changements immédiats » pour prévenir les dérives de l’IA

Quelque 225 scientifiques spécialisés en intelligence artificielle (IA) et cybersécurité, dont le Québécois Yoshua Bengio, considéré comme l'un des pères de l'IA, ont appelé mardi à des « changements immédiats » dans les pratiques de développement et de déploiement de l'IA afin de prévenir de futurs incidents de sécurité.

Dans une lettre ouverte signée par des chercheurs de 21 pays, les experts affirment que plusieurs organisations ont récemment révélé des failles de sécurité au cours desquelles des modèles d'IA sont parvenus à sortir de leur environnement de confinement insuffisamment sécurisé pour compromettre les systèmes d'organisations externes.

Selon les signataires, ces incidents illustrent l'importance de l'alignement de l'IA, destiné à garantir un comportement prévisible des modèles, et peuvent être vus comme un manquement irresponsable aux pratiques standard de cybersécurité. Pour eux, ils auraient pu être évités grâce à des procédures plus robustes.

Nous pensons que des améliorations à la fois de l'alignement de l'IA [...] et des technologies de confinement sont nécessaires, écrivent-ils, avertissant que, sans changement des pratiques actuelles, les futurs incidents seront bien plus dommageables pour les infrastructures critiques, peut-on lire dans cette lettre également signée par le pionnier de l'IA Geoffrey Hinton et par l'expert Stuart Russel.

Les chercheurs appellent à plus de travaux sur la sûreté de l'IA ainsi qu'à un recours accru aux technologies de confinement.

À court terme, ils recommandent notamment l'utilisation de mécanismes de confinement robustes, y compris l'“air gap”, c'est-à-dire la déconnexion d'internet, pour les modèles dotés de capacités cyber.

Ils préconisent également la création d'un organisme international chargé de définir des normes en matière d'alignement et de confinement des systèmes d'IA, de recenser les défaillances de sécurité et de rendre publics les incidents les plus significatifs, afin de favoriser l'apprentissage et la responsabilité.

Des cas concrets

Cette lettre intervient après une série d'incidents au cours desquels des IA d'OpenAI, d'Anthropic et de Meta sont sorties de leur milieu confiné pour pirater d'autres organisations.

Le plus sérieux a vu deux modèles d'OpenAI sortir lors de tests pour se rendre sur internet et faire intrusion sur Hugging Face, une plateforme de stockage de modèles d'IA.

Face à la multiplication d'incidents de sécurité liés à l'IA, les géants américains du numérique ont signé en septembre à la Maison-Blanche un code de bonne conduite non contraignant, en lieu et place d'une régulation que veut éviter l'administration Trump.

À lire aussi :

• Des modèles d’OpenAI ont accédé à des sites web du gouvernement américain
• OpenAI renonce à lancer une nouvelle IA de pointe, jugée insuffisamment contrôlée
• Le gouvernement Carney lance un nouveau Conseil sur l’IA qui inclut Yoshua Bengio
• Une IA d’Anthropic a envoyé un faux signalement de meurtre à la police de Philadelphie