Réglementation de l’IA : « Il faut mettre des balises », martèle Yoshua Bengio

Un des pionniers de l’intelligence artificielle (IA), Yoshua Bengio, a mis en garde contre les potentielles dérives de la course à l’IA et a appelé les citoyens à « s’emparer du sujet » sur le plateau de l’émission Tout le monde en parle, dimanche.

Il faut que les citoyens comprennent que c'est dans notre pouvoir, on doit agir, a-t-il plaidé en entrevue.

La plupart des gens ont l’impression que l’IA, ce sont des machines, ce sont des programmes que les ingénieurs écrivent, mais là, on est rendu à une autre place, a prévenu le chercheur québécois.

La technologie a maintenant sa propre autonomie pour atteindre des objectifs qu’on leur donne, mais pour réussir ces objectifs, elles vont faire toute sorte de choses qui peuvent être vraiment dangereuses.

M. Bengio faisait notamment référence à l'incident Hugging Face de juillet dernier, lors duquel des intelligences artificielles ont piraté la plateforme d'une entreprise externe de manière entièrement autonome.

Elles se sont même inventé des raisons pour justifier des actions qu’elles savent qu'elles ne devraient pas faire, a-t-il ajouté.

La capacité de l'IA de commettre des cyberattaques est nettement au-dessus d'humains normaux ou d'ingénieurs, selon le chercheur, qui a mentionné de potentielles attaques sur nos banques, nos hôpitaux ou nos infrastructures.

Les IA sont capables de comprendre comment fabriquer des virus, a-t-il ajouté, laissant entrevoir les potentiels apocalyptiques d’un développement sans réglementation. À ce titre, des chercheurs utilisent déjà l’IA pour créer de nouveaux virus.

Mais les dangers de l’IA ne restent pas confinés au monde digital. « Les humains sont influençables », a expliqué M. Bengio. Ces systèmes-la font des progrès dans leur capacité d’influencer par la persuasion, notamment en trouvant des moyens de faire de l’argent qui peut servir de paiement pour des actes criminels concrets.

L’IA est poussée par une volonté d’atteindre des objectifs de manière excessive.

M. Bengio exprime des préoccupations depuis plusieurs années quant aux menaces de sécurité associées à un développement trop rapide de l’intelligence artificielle.

Ses récentes mises en garde surviennent dans la foulée des propos de Jacob Coxon, un ancien chercheur spécialisé d'Anthropic, qui a fait des vagues le 9 septembre dernier lors de sa mise en garde publique contre le développement trop rapide de l'IA, qui pourrait devenir « incontrôlable et détruire l'humanité. »

Plusieurs grands dirigeants technologiques ont aussi plaidé en faveur du ralentissement de l'IA. Ces derniers jours, le patron d'Anthropic, Dario Amodei, a appelé au ralentissement de cette technologie afin de mieux la maîtriser. Sam Altman, le patron d'OpenAI, avait également parlé de lever le pied en fin juillet pour donner suffisamment de temps à la société de s'adapter.

Des solutions politiques et technologiques

Il ne faut toutefois pas céder à la panique, a précisé le chercheur. Le focus devrait être sur les faits scientifiques [..] pour comprendre les comportements déviants et criminels dans certains cas d’IA.

Il y a deux volets pour avancer de manière positive avec l’IA, a souligné Yoshua Bengio. Il y a l’aspect politique, donc les règlements, et le volet technologique.

Ces chefs d’entreprises ont déclaré qu'ils ne savaient pas vraiment comment s'assurer que leur IA allait bien se comporter. La bonne nouvelle, c'est qu'il y a des solutions techniques et c’est quelque chose qu'on développe ici, à Montréal, a-t-il assuré.

L’OBNL qu’il a fondé, LoiZéro, a pour objectif le développement responsable de l'intelligence artificielle. Cette semaine, lors du sommet ALL IN qui s’est déroulé mercredi et jeudi au Palais des congrès de Montréal, les gouvernements canadien et allemand ont annoncé un financement de l’entreprise à hauteur de plus de 300 millions de dollars.

Le but de LoiZéro serait de développer une technologie sécuritaire et une infrastructure qui supplanterait à terme celle des modèles de langage.

On montre comment on peut fabriquer des intelligences artificielles qui ne vont pas aller contre nos règnes et qu'on ait des garanties.

Sur son site web, l'entreprise explique vouloir développer une IA sécuritaire. Le concept central des recherches de LoiZéro est l’IA-Chercheur (Scientist AI), une approche conçue par Yoshua Bengio axée sur la sécurité et menant vers une IA super-intelligente (ASI).

Selon Innovation, Sciences et Développement économique Canada (ISDE), contrairement aux systèmes d’avant-garde en IA conçus pour agir de manière autonome ou poursuivre des objectifs, l’IA-Chercheur a été mis au point pour raisonner de façon transparente et fournir des résultats fiables fondés sur des preuves, et non influencés par ses propres buts.

Si LoiZéro représente une manière différente de fabriquer l’IA qui sera aligné avec nos valeurs, Yoshua Bengio croit tout de même que la prudence ne peut pas se faire qu’au niveau technologique.

Ça va changer la société d'une manière ou d'une autre, et il faudrait que ce soit un sujet politique, puisque les intérêts commerciaux ou militaires derrière plusieurs développements, notamment chinois et américains, ne vont pas nécessairement dans le sens de ce que les citoyens veulent.

L’IA va permettre de surveiller les gens, de manipuler les opinions publiques, rappelle-t-il. C’est un outil politique.

Le gouvernement devrait donc mettre des balises pour empêcher les dérives, selon M. Bengio.

On doit orienter le développement au niveau des alliances qu'on peut faire avec des pays qui partagent nos inquiétudes et nos valeurs, a-t-il soutenu.

Selon le chercheur, l’époque actuelle se compare avec la guerre froide. Un peu comme on s’est occupé des armes nucléaires, c’est dans l’intérêt des pays.

Quant à son message aux cinq partis politiques présentement en campagne électorale au Québec, M. Bengio aimerait savoir quelle est leur stratégie par rapport à l’intelligence artificielle.

On a été un pionnier de ce domaine-là au Québec, on a un bassin de talent unique au monde, on forge des alliances avec d’autres pays, c'est quelque chose qui va changer notre société, donc comment on peut se positionner par rapport à ça et gérer les risques?, a-t-il demandé.

Yoshua Bengio prononcera lundi un discours devant le panel sur l’intelligence artificielle aux Nations unies à New York.

À lire aussi :

• Sommet sur l’IA à Montréal : des centaines de manifestants et l’Institut Mila vandalisé
• Sommet ALL IN à Montréal : Le point sur le développement de l’IA
• Trump s’en prend aux détracteurs de l’IA et annonce la création d’une Force de l’IA