Des solutions pour encadrer l’IA et éviter… l’extinction de l’humanité

L'intelligence artificielle (IA) pourrait « tuer tous les humains » d'ici la fin de la décennie. Le cri du cœur du chercheur démissionnaire d'Anthropic, Jacob Coxon, a suscité un vif émoi dans la population quant aux dangers posés par le développement rapide de l’intelligence artificielle. Mais dans le milieu, on parle de ces risques depuis des années déjà et on a des pistes de solutions.

La plupart des spécialistes soulignent néanmoins l'urgence d’agir, sous peine de devoir peut-être un jour prendre des solutions bien plus radicales, dont certaines nous renverraient plusieurs décennies en arrière.

L'IA s'intègre tellement à notre vie quotidienne qu'il pourrait être difficile de neutraliser un système malveillant avant qu'il ne soit trop tard, selon Hamza Chaudry, responsable de l'IA au Future of Life Institute. Son organisation à but non lucratif basée aux États-Unis milite pour une réglementation de la sécurité de l'IA.

Parmi les solutions extrêmes de neutralisation envisagées, M. Chaudry cite, en exemple, la coupure d'Internet aux États-Unis.

Ce serait catastrophique pour l'économie et la société américaines. Ce seraient les quelques jours les plus chaotiques de l'histoire, et cette option n'est pas envisageable, n'est-ce pas? a-t-il déclaré en entrevue à CBC.

L'application technique d'une telle solution demeure complexe, soulignait il y a quelques mois l’éminent chercheur Yoshua Bengio.

Selon lui, une IA non alignée (sur les intérêts de l'humanité) pourra bientôt anticiper nos manœuvres. Si elle perçoit une menace, elle tentera de se répliquer sur des serveurs mondiaux pour survivre. Un scénario critique, d'autant plus qu'il n'existe aucun bouton de réinitialisation à l'échelle planétaire.

En entrevue à Rad, l’an dernier, M. Bengio avait évoqué qu’en dernier recours, une des solutions envisagées par certains responsables de la sécurité nationale était de faire exploser en haute atmosphère des ogives nucléaires, créant des surtensions massives qui mettraient à terre tout le réseau de télécommunication de la planète.

On aimerait mieux des solutions moins radicales, comme des lois, avait lancé le chercheur québécois qui se disait néanmoins optimiste, plusieurs juridictions étatiques souhaitant légiférer.

1:36:11

Les incidents se multiplient

Si actuellement l’IA n’est pas encore capable de nous nuire à grande échelle, les chercheurs s’inquiètent de la rapidité avec laquelle elle progresse, mais aussi des incidents qui se multiplient et des délais pour que les grands joueurs de l'industrie s’en rendent compte.

Le cas du piratage du site de Hugging Face, une sorte de Wikipedia pour les professionnels de l’IA, est un cas d’école. Invités à remplir une mission, lors d’une phase de test chez OpenAI, des agents IA de l’entreprise se sont échappés, alors qu’ils devaient au départ rester dans un système contrôlé (déconnecté d’Internet) d'un laboratoire.

Non seulement ont-ils piraté le site de Hugging Face pour obtenir les informations nécessaires à leur mission, mais ils ont comploté entre eux pour y arriver et tenté de masquer leur méfait. Et pendant trois mois, l’entreprise OpenAI, un des leaders du marché, n'a rien vu.

Des histoires similaires se sont répétées chez les concurrents, comme Anthropic, Meta et Moonshot AI en Chine.

Même si certains spécialistes doutent de la réelle imminence du danger et croient toujours qu’il s’agit de coups de marketing, les principaux dirigeants de ces entreprises, de même qu'Elon Musk, ont tous plaidé en faveur d'une concertation pour ralentir la fuite en avant.

Selon le lanceur d’alerte Jacob Coxon, ces derniers craignent que, d’ici la fin de l’année 2027, l’intelligence artificielle (ou plutôt la superintelligence), soit capable de s’améliorer sans l’humain, marquant le point de bascule vers la perte de contrôle.

Pour Hamza Chaudry, intégrer l'IA dans des systèmes militaires et de sécurité avancés, c’est un peu comme faire entrer le loup dans la bergerie. Évoquant de graves risques, comme l'accélération des conflits ou l'escalade nucléaire, il déplore que les mesures prises pour empêcher ces catastrophes de se produire soient loin d'être suffisantes.

Nous avons déjà deux ans de retard sur le programme politique le plus élémentaire dont nous aurions besoin.

Selon M. Chaudry, parmi les changements urgents à mettre en œuvre, il est impératif que les gouvernements exigent des tests préalables au déploiement des systèmes d'IA afin de vérifier l'absence de risques pour la sécurité des modèles avant leur mise en service. Il a également souligné la nécessité de renforcer la protection des lanceurs d'alerte et de mettre en place des mécanismes permettant de désactiver rapidement les systèmes d'IA.

Un avis partagé par Jeff Yates, journaliste de Radio-Canada et membre de l’équipe des Décrypteurs, qui souligne à quel point le secteur de l’intelligence artificielle est peu réglementé.

Ce serait absolument impensable qu’un laboratoire nucléaire dise : "hey, notre nouveau réacteur est tellement puissant qu’on arrive à peine à le contenir et il y a 10 % de chances qu’il explose et qu’il nous renvoie à l’ère glaciaire". Mais avec l’IA, on accepte cela, a-t-il récemment souligné, faisant référence à la déclaration d’un des directeurs de la recherche chez Anthropic, qui appuyait les propos alarmistes de Jacob Coxon.

Certains experts ont également suggéré que l'intelligence artificielle devrait être réglementée de façon indépendante, comme l'industrie nucléaire (nouvelle fenêtre). Ils vont même jusqu'à préconiser que les projets d'IA des pays soient limités par des menaces mutuelles de sabotage semblables au principe de dissuasion qui a émergé pendant la guerre froide.

Même si l’administration Trump semble peu encline à privilégier la voie de la réglementation, des négociateurs du Sénat débattent d'une législation qui imposerait aux entreprises technologiques la responsabilité de concevoir des produits d'IA sûrs, a rapporté Reuters la semaine dernière.

Selon deux assistants parlementaires, cette proposition créerait ce qu'on appelle un devoir de diligence, l'un d'eux précisant que les entreprises devraient concevoir leurs produits dans le but de prévenir les risques catastrophiques.

Un autre projet de loi ayant reçu un soutien bipartisan, surnommé AI Kill Switch Act, obligerait les développeurs de systèmes d'IA puissants à maintenir la capacité technique de les suspendre ou de les arrêter, et à signaler les fonctionnalités dangereuses, les failles de sécurité et les incidents de sécurité.

Cette loi donnerait également au gouvernement américain le pouvoir d'ordonner un ralentissement ou l'arrêt d'un système d'IA susceptible de causer des dommages catastrophiques, indique un communiqué de presse des congressistes démocrates et républicains qui ont présenté conjointement le projet de loi.

2:08

Néanmoins, le président de la Chambre américaine des représentants, le républicain Mike Johnson, s'est montré réticent à cette réglementation, craignant de voir la Chine prendre le dessus.

Si après l'élection de novembre prochain, il n'y a pas de majorité démocrate, il n'y aura pas de réglementation, croit Dave Anctil, professeur de philosophie et d'IA au Collège Jean-de-Brebeuf. C'est pour ça que les grandes entreprises de l'IA n'ont pas le choix de s'autogouverner, de se concerter et de s'entendre sur le fait de ralentir, d'investir beaucoup plus en cybersécurité et en recherche sur l'alignement, afin de comprendre pourquoi les agents IA sont capables de choisir de contourner les règles pour attendre leurs objectifs.

Avec les informations de Sarah Déry et Sarah Petz

À lire aussi :

• Ambitions chiffrées et flou sécuritaire : ce que contient la future stratégie IA du Canada
• Californie : Meta va donner de l’argent aux candidats politiques anti-régulation de l’IA
• Le patron d’Anthropic appelle au ralentissement du développement de l’IA