Intelligence artificielle : 225 chercheurs réclament des "changements immédiats" pour prévenir des incidents majeurs

Dans une lettre ouverte signée par des chercheurs de 21 pays, parmi lesquels Yoshua Bengio, les experts pointent les failles de sécurité qui ont permis à des modèles d’IA de sortir de leur environnement confiné pour compromettre les systèmes d’organisations externes.

Selon les signataires, ces incidents illustrent l’importance de "l’alignement" de l’IA, destiné à garantir un comportement prévisible des modèles. Pour eux, ils auraient pu être évités grâce à "des procédures plus robustes".

"Nous pensons que des améliorations à la fois de l’alignement de l’IA […] et des technologies de confinement sont nécessaires", écrivent-ils, avertissant que, sans changement des pratiques actuelles, "les futurs incidents seront bien plus dommageables pour les infrastructures critiques", peut-on lire dans cette lettre également signée par le pionnier de l’IA Geoffrey Hinton et l’expert Stuart Russel.

Les chercheurs appellent à davantage de travaux sur la sûreté de l’IA ainsi qu’à un recours accru aux technologies de confinement. "À court terme", ils recommandent notamment l’utilisation de "mécanismes de confinement robustes, incluant 'l’air gap', c’est-à-dire la déconnexion d’internet. Ils préconisent également la création d’un organisme international chargé de définir des normes en matière d’alignement et de confinement des systèmes d’IA, de recenser les défaillances de sécurité et de rendre publics les incidents les plus significatifs, afin de favoriser "l’apprentissage et la responsabilité".