Peut-on simplement débrancher l’intelligence artificielle si elle dérape ?

L’idée revient souvent sur les réseaux sociaux face aux déclarations récentes d’experts en intelligence artificielle (IA) qui s’alarment de l’émergence possible d’agents superintelligents susceptibles de menacer l’humanité.

Publié à 19 h 00

La coupure de l’alimentation énergétique des systèmes informatiques permettant à ces agents d’opérer n’est malheureusement pas une solution sérieuse face à la problématique, font valoir plusieurs analystes, notamment parce que leur fonctionnement reposerait sur une infrastructure complexe et étendue.

Jacob Coxon, un employé démissionnaire d’Anthropic qui a soulevé une tempête la semaine dernière en évoquant le risque de voir émerger rapidement une superintelligence destructrice, a déclaré à la chaîne CBS que de tels agents auraient par ailleurs la capacité de se copier sur un grand nombre d’appareils, rendant une interruption localisée inutile.

« Un agent IA est du code qui peut se transférer à un endroit différent à travers l’internet. Vous tentez de le débrancher ici, mais il est en fait encore là-bas », a-t-il illustré.

Le concept n’a rien de théorique puisqu’une étude de la firme de sécurité en IA Palisade Research a notamment montré qu’un agent IA avait pu se copier de cette façon.

David Krueger, un spécialiste en intelligence artificielle rattaché à l’Université de Montréal, relève qu’un agent IA suffisamment avancé pour envisager une action néfaste saura anticiper les moyens susceptibles d’être utilisés pour le neutraliser et organisera ses actions en conséquence.

Ces capacités viennent grandement compliquer le développement d’un interrupteur d’urgence (kill switch) assez efficace pour faire une différence.

Quelle solution ?

La difficulté d’assurer « l’alignement » de systèmes d’IA sophistiqués est au cœur des préoccupations exprimées par des chercheurs de firmes comme Anthropic et OpenAI qui plaident pour un meilleur encadrement de leurs efforts afin d’éviter les dérapages.

Leurs dirigeants suggèrent notamment d’« imbriquer » des évaluateurs externes issus d’organisations spécialisées en sécurité pour surveiller la recherche de manière à prévenir des évènements comme la cyberattaque lancée cet été par des centaines d’agents IA d’OpenAI contre la firme Hugging Face.

Ces appels à ralentir la recherche ne vont pas assez loin et ne reflètent pas la gravité des risques encourus à l’heure actuelle, juge M. Krueger, qui appelle de ses vœux un moratoire sur le développement de modèles d’IA de pointe.

« Il doit durer aussi longtemps qu’on ne sera pas judicieusement convaincu de leur sécurité et que l’on ne comprendra pas pleinement comment ils fonctionnent », relève le chercheur.

« Ne construisons pas une machine capable de nous tuer », insiste l’universitaire, qui suggère, pour favoriser la mise en place d’un moratoire, de restreindre l’accès aux puces électroniques sophistiquées requises pour la recherche dans ce domaine.