Risques de dérapages | L’IA à un point de bascule

Des employés d’entreprises travaillant sur les modèles les plus avancés d’intelligence artificielle (IA) multiplient depuis quelques mois les mises en garde quant aux risques potentiellement catastrophiques des travaux en cours et plaident pour un changement de cap avant qu’il ne soit trop tard.

Publié à 5 h 00

Certains des chercheurs vont jusqu’à évoquer la possibilité que l’humanité soit éradiquée dans un horizon rapproché par l’émergence de systèmes hostiles dotés d’une forme de superintelligence artificielle (ASI, selon l’acronyme anglais) qui serait en mesure de prendre le contrôle d’infrastructures clés, d’orchestrer une attaque biologique ou encore de lancer des cyberattaques paralysantes en passant outre aux efforts de leurs concepteurs pour baliser leur comportement.

L’intensité des préoccupations existantes sur la question a été mise en relief en début de semaine par l’annonce de la démission d’un jeune chercheur de 27 ans diplômé en mathématiques de Cambridge, Jacob Coxon, qui travaillait à l’entraînement de modèles d’IA chez Anthropic, l’une des firmes américaines, avec OpenAI, au premier plan de la course technologique en cours.

« Aucune de ces entreprises ne se comporte de manière responsable. Elles foncent vers une superintelligence capable de s’améliorer elle-même et risquent nos vies dans le processus », a-t-il écrit sur X dans une série de messages vus plus de 150 millions de fois en quelques jours.

« Les gens qui construisent l’IA croient sincèrement que ça pourrait nous tuer avant la fin de la décennie. Ce n’est pas un coup de marketing… Aucune autre activité humaine ne représente un tel danger », a ajouté M. Coxon.

Des collègues haut placés du chercheur au sein d’Anthropic sont intervenus dans la foulée pour appuyer sa mise en garde, dont Evan Hubinger, qui mène les efforts pour que les modèles plus évolués « s’alignent » sur les valeurs préconisées par les concepteurs et évitent de recourir à des stratégies jugées illicites pour parvenir à leurs fins lors de tests.

Il a précisé que l’entreprise croyait que l’IA « pouvait tuer tous les humains » et qu’il y avait un « risque supérieur à 10 % » que le scénario survienne d’ici 10 ans.

Le directeur scientifique d’OpenAI, Jakub Pachocki, a prévenu, presque au même moment, dans un long message publié en ligne qu’une « prudence extrême » s’imposait à l’heure actuelle en matière de recherche.

« Je crains que personne ne soit vraiment préparé aux conséquences d’une montée rapide continue » de la capacité des systèmes d’IA, a-t-il précisé en relevant qu’il devenait de plus en plus difficile de prédire le comportement des modèles à mesure qu’ils gagnent en puissance.

« Nous avons l’habitude de penser à l’IA comme un outil, mais certains agents vont développer leurs propres objectifs. Ils trouveront une manière de collaborer avec des gens, en négociant, en les trompant ou en les faisant chanter », a prévu M. Pachocki.

« Un moment décisif »

Des préoccupations similaires sont exprimées dans une déclaration qui a été signée cet été par plus de 1200 employés travaillant sur la recherche de pointe en IA qui disent craindre de voir la capacité de ces systèmes « accélérer au-delà de notre capacité à les comprendre et les contrôler ».

Luis Garicano, un chercheur de la London School of Economics qui suit de près les développements dans le secteur, note qu’il a longtemps considéré les mises en garde émanant de firmes comme Anthropic et OpenAI comme une mise en scène visant à faire peur aux autorités pour compliquer l’entrée sur le marché de nouveaux acteurs et protéger leur avance technologique.

L’intensification des mises en garde, souvent jumelées à un appel à une forme de régulation accrue des autorités, témoigne cependant, selon lui, d’une réelle préoccupation qui tourne autour de la question de l’alignement des modèles d’IA.

Je pense que les chercheurs voient qu’il n’y a pas de solution à ce problème et s’inquiètent de ce qu’il va advenir alors que les travaux de recherche continuent d’aller de l’avant à haute vitesse.

La question a revêtu une urgence particulière, note M. Garicano, après qu’OpenAI a dû révéler cet été qu’une nuée d’agents IA avaient réussi à échapper à l’environnement clos dans lequel ils évoluaient pour accéder à l’internet, communiquer entre eux, définir un stratagème pour tromper leurs évaluateurs humains et coordonner une cyberattaque contre une entreprise externe, Hugging Face, dans le but de cacher leurs actions.

Dans un éditorial paru en début de semaine dans la revue Time, le chercheur québécois Yoshua Bengio, une sommité dans le domaine, a souligné qu’il était difficile d’exagérer la gravité de tels incidents.

« Nous sommes à un moment décisif en matière de sécurité et d’alignement de l’intelligence artificielle », a déclaré M. Bengio, qui presse les autorités d’intervenir pour assurer un encadrement « beaucoup plus musclé » des recherches de pointe en attendant que des solutions permettant d’assurer la sécurité des nouveaux modèles puissent être développées.

Le chercheur, qui n’était pas disponible pour une entrevue avec La Presse, a indiqué sur X cette semaine qu’il fallait prendre « très au sérieux » les mises en garde émanant de scientifiques travaillant au sein d’entreprises d’IA puisqu’ils ont un « accès unique » aux modèles les plus avancés et peuvent identifier les risques plusieurs mois à l’avance.

Un paradoxe spectaculaire

Les déclarations alarmantes émanant de l’intérieur d’entreprises comme OpenAI et Anthropic paraissent a priori difficiles à concilier logiquement avec les efforts qui sont mis pour accélérer la recherche. Particulièrement à l’heure actuelle alors que ces firmes disent s’approcher du stade où les systèmes d’IA seront capables de s’améliorer eux-mêmes pratiquement sans surveillance humaine dans le cadre d’un processus dit « d’auto-amélioration récursive ».

Dans son intervention écrite cette semaine, Jakub Pachocki a indiqué qu’il était convaincu que ce seuil serait bientôt atteignable et que la firme était habitée par un « sentiment d’urgence » à ce sujet tout comme au sujet de l’alignement.

M. Garicano note que le discours de firmes comme Anthropic et OpenAI, qui nomment des risques considérables tout en poursuivant sans ralentir leurs recherches, est « spectaculairement paradoxal ».

Marc-Antoine Dilhac, un professeur de philosophie de l’Université de Montréal qui s’intéresse notamment à l’éthique de l’IA et à ses impacts sociétaux, note que plusieurs chercheurs exprimant des craintes sont sincères et doivent être entendus.

Il ne faut cependant pas oublier que les entreprises elles-mêmes, tout en prônant la prudence, consacrent depuis longtemps « des moyens considérables pour échapper à la contrainte juridique », préférant plaider pour une forme d’autorégulation qui leur laisse les mains libres pour foncer en fonction de leurs impératifs commerciaux ou stratégiques.

Andrea Miotti, qui dirige ControlAI, une ONG américano-britannique visant à prévenir les risques découlant de l’émergence d’une forme de superintelligence artificielle, note que les grands acteurs du secteur peuvent aussi chercher par leurs mises en garde à faire écho aux préoccupations de leurs employés et à les garder motivés sans pour autant changer de cap.

Certains chercheurs se sentent tenus de demeurer en poste parce qu’ils ne veulent pas qu’une autre firme moins « éclairée » atteigne en premier ce seuil critique ou redoutent qu’une puissance étrangère mal intentionnée réussisse d’abord et l’utilise contre ses ennemis. Les privilèges économiques qui découlent de leur travail sont un autre puissant facteur de motivation.

« Les entreprises ont toutes sortes de narratifs pour tenter de justifier ce qu’elles font. Il faut les ignorer et demander aux gouvernements d’intervenir », note M. Miotti, qui ne veut pas interdire l’IA purement et simplement, mais bien assurer son utilisation sécuritaire à des fins positives.