Une charte pour encadrer l’IA… mais est-ce suffisant ?

Les six géants de l’IA — OpenAI, Anthropic, Google, Meta, xAI et Nvidia — étaient réunis à la Maison-Blanche mardi pour la signature d’un code de bonne conduite visant à encadrer le développement de l’intelligence artificielle (IA). À l’heure où les mises en garde se multiplient sur les dangers de l’IA, les leaders de l’industrie ont accepté de se soumettre à cet accord de manière volontaire.

Cette charte, qui tient en une page, introduit quatre niveaux de surveillance. Des contrôles internes seront mis en place dans les entreprises « pour surveiller les capacités et l’alignement des modèles pendant leur entraînement et leur déploiement ». Ceux-ci seront supervisés par une « équipe interne ». Un évaluateur externe viendra faire un audit indépendant de ces systèmes de contrôle, et le tout sera chapeauté par un comité indépendant nommé à l’intérieur de chaque conseil d’administration.

Pour y voir plus clair, Le Devoir s’est entretenu avec David Krueger, titulaire d’une chaire de recherche en IA à Mila, professeur à l’Université de Montréal et fondateur de l’organisme Evitable, dont la mission est d’informer le public face aux risques liés à l’IA et à mettre un terme à la course au développement d’une superintelligence.

Est-ce souhaitable que les géants de la tech s’auto-réglementent de la sorte?

« [L’auto-réglementation], c’est ce qui a été essayé pendant des années, mais sans succès », souligne le chercheur. Les entreprises tentent ainsi d’éviter une réglementation publique à laquelle elles seraient assujetties.

Pour David Krueger, la charte est « décevante et insuffisante », même si elle comporte certains points positifs. Le texte et les mesures qui y sont détaillées sont vagues. « Ça pourrait être mis en œuvre de façon extrêmement limitée ou d’une manière tellement superficielle qu’elle ne produirait pratiquement aucun effet. »

La volonté de certains dirigeants d’entreprises d’encadrer le développement de l’intelligence artificielle semble néanmoins sincère, croit-il. « Mais même au sein de ces entreprises, il y a souvent une certaine incohérence : beaucoup de personnes veulent une chose, puis leurs lobbyistes font simplement ce que font les lobbyistes, c’est-à-dire essayer d’éviter la réglementation. »

Qu’y a-t-il de positif dans cette charte?

En filigrane de ce texte se trouve « cette idée selon laquelle, si ces entreprises se livrent à des activités dangereuses, elles ne devraient tout simplement pas le faire », pointe David Krueger. Un progrès, déjà.

Le 2 juin, le gouvernement Trump a créé un programme incitant les entreprises à soumettre leurs modèles d’IA les plus avancés avant qu’ils soient rendus publics. Cette initiative se base également sur une approche volontaire. « Les entreprises s’y sont conformées, possiblement parce qu’elles avaient le sentiment que l’administration s’en prendrait à elles si elles ne le faisaient pas », relève le professeur.

La nouvelle charte pourrait donc avoir le même poids moral, en incitant les membres de l’industrie à s’y conformer, même si elle n’est pas contraignante.

Est-ce que les gouvernements ont trop tardé avant de réguler cette industrie?

« Certainement, répond le chercheur. Dans le sens où ils auraient dû le faire plus tôt, mais pas dans le sens où ce n’est plus possible aujourd’hui. » La mise en place d’une réglementation est difficile dans la logique de course qui sous-tend le développement de l’IA. Trump ne cesse de répéter qu’il ne veut pas ralentir l’industrie de peur que la Chine les devance.

Pour David Krueger, il s’agit là d’une lecture erronée. « Ce n’est probablement pas une course que l’on peut gagner. Ce qui risque plutôt de se produire, c’est qu’une fois un certain seuil atteint, nous perdions le contrôle. » Des scénarios catastrophes pourraient alors se produire où l’IA dominerait le monde.

Mais si des balises sont établies et que des garde-fous sont créés, une superintelligence (une IA dont les capacités dépasseraient largement celles des humains) pourrait effectivement procurer un avantage stratégique décisif à celui qui la possédera. « C’est une technologie extrêmement puissante qui pourrait bouleverser l’équilibre actuel des puissances. »

Quels sont les principaux dangers dont il faut se prémunir?

Les dangers proviennent de deux principales sources : les humains qui pourraient faire un usage malicieux d’une superintelligence et les agents d’IA qui agiraient de manière incontrôlable. Un agent est un logiciel qui utilise l’intelligence artificielle pour accomplir, sans intervention humaine, un objectif ou une tâche.

Dans les derniers mois, des agents — souvent en phase de tests — ont outrepassé les consignes qui leur avaient été données par des humains. Certains ont contourné des restrictions, dissimulé leurs actions, menti et manipulé leur environnement pour atteindre leur objectif. D’autres ont adopté des comportements trompeurs pour éviter que d’autres agents soient supprimés, un phénomène appelé la « préservation des pairs ».

« Nous ne savons pas comment empêcher ces systèmes d’avoir des comportements indésirables », note David Krueger.

Alors comment mieux encadrer l’IA et développer une gouvernance responsable?

La première chose à faire, selon David Krueger, est d’instaurer immédiatement un moratoire international sur le développement de l’IA de pointe. « Personne ne devrait construire des systèmes d’IA plus puissants », insiste-t-il.

Aucun mécanisme de contrôle interne robuste ne permet actuellement de garantir « que les modèles ne piratent pas ou n’accèdent pas à des systèmes techniques de manière imprévue », relève le chercheur. « Nous ne savons pas comment nous assurer de conserver le contrôle s’ils se comportent mal. Et nous ne savons pas non plus prédire s’ils vont se comporter de manière problématique. »

Les dangers sont réels, dit-il, et les risques immenses. « C’est un problème de recherche non résolu, fondamental pour la nature même de cette technologie, sur lequel nous travaillons depuis plus d’une décennie. »