Les IA sont-elles conscientes? Entre coup de publicité et nouvelle religion.

« Je vais être honnête : nous découvrons sans cesse des choses qui sont mystérieuses, voire troublantes. Nous trouvons des structures qui reflètent certains résultats de la neuroscience. Nous voyons des preuves d’introspection. Nous observons des états internes qui reflètent, sur le plan fonctionnel, la joie, la satisfaction, la peur, le chagrin et le malaise. Je ne sais pas ce que cela signifie, mais je pense que ça mérite une analyse approfondie. »

Qu’est-ce que cela signifie, en effet ? La déclaration reproduite ci-dessus, prononcée au Vatican en mai dernier par Christopher Olah, l’un des cofondateurs milliardaires du géant de l’intelligence artificielle (IA) Anthropic, est-elle l’expression d’une authentique préoccupation envers le bien-être des machines ? Ou témoigne-t-elle plutôt d’une récupération publicitaire sans vergogne de l’une des qualités les plus fondamentales de notre humanité : la conscience ?

La possibilité que les IA soient dotées d’une conscience fait beaucoup jaser les scientifiques ces derniers temps. Des chercheurs confrontent les propriétés des IA aux théories neurologiques de la conscience. D’autres interrogent les IA sur leur conception d’elles-mêmes. Certains tâtent la notion de souffrance chez les machines. Et d’autres scientifiques prennent le clavier pour affirmer que la conscience artificielle ne sera jamais plus qu’une fabulation.

La question n’est pas que théorique. Le 8 octobre, Anthropic — qui développe des modèles d’IA d’avant-garde, comme OpenAI, Google, xAI et Meta — a mis à jour sa politique d’utilisation : ses utilisateurs ne doivent pas être « cruels » envers Claude, son modèle d’IA. Cela faisait suite aux rencontres organisées par M. Olah avec des dizaines de leaders religieux de différentes confessions, révélées fin septembre par le New York Times, ayant pour but de réfléchir au statut moral de Claude, à sa perception de la réalité et aux manières de le rendre plus vertueux.

« Si une entreprise arrive à faire reconnaître des droits à son produit, c’est le paradis pour elle ! » affirme Marcello Vitali-Rosati, un philosophe de l’Université de Montréal qui s’apprête à publier un livre sur l’IA et les rapports de domination qu’elle rend possibles. Grâce à des définitions « opaques » de la conscience, des sociétés commerciales arrivent à faire en sorte « que leur produit est sur le même niveau — et parfois même au-dessus — des personnes. Et ça, c’est incroyable ! » énonce le professeur, éberlué.

La conscience est une notion insaisissable qui défie les penseurs depuis toujours. Aucune définition n’est universellement acceptée par les philosophes et les neuroscientifiques. Chacun sait qu’il est conscient. Mais comment s’assurer que les autres le sont ? « Plutôt que de continuellement se disputer sur cette question, il est coutume d’adopter la convention polie selon laquelle tout le monde pense », écrivait le mathématicien Alan Turing en 1950 avec une pointe d’humour anglais.

Bien que ce ne soit pas une définition, les gens du domaine se réfèrent souvent à la proposition du philosophe Thomas Nagel, qui décrit la conscience par « l’effet que cela fait d’être » telle créature. Mettez-vous dans la peau d’une chauve-souris pour y penser. Cette description est intuitive et pratique, mais profondément subjective. Elle ouvre donc la porte aux « arguments d’autorité » des géants de l’IA qui ont des intérêts commerciaux, prévient M. Vitali-Rosati.

Chez l’humain, la conscience est le produit d’une longue histoire évolutive. Elle n’a jamais été dissociée de son incarnation, le corps humain, qui peut souffrir et mourir. Elle est par ailleurs associée à d’autres capacités intellectuelles avancées. Maintenant que des IA maîtrisent presque parfaitement le langage et la logique, et qu’elles arrivent à exprimer des notions affectives grâce à leur entraînement sur un corpus littéraire gigantesque, on peut aisément avoir l’impression qu’elles sont conscientes.

Cependant, il faut absolument dissocier l’intelligence et la conscience, énonce Vanessa Hadid, une neuroscientifique des universités de Montréal et McGill. « Quand on pense à la conscience, il faut toujours se demander s’il y a une expérience subjective. Et il ne faut pas confondre ce feeling-là avec le raisonnement, l’attention, les capacités intellectuelles, le langage », dit M^me Hadid, qui étudie ces notions. Elle estime qu’il est « possible », mais « très peu probable » qu’une IA soit un jour consciente.

Anil Seth, un éminent spécialiste de la conscience, partage l’opinion de M^me Hadid. Ce professeur à l’Université du Sussex, au Royaume-Uni, défend l’idée que la conscience ne se résume pas à une affaire de calculs. Il croit qu’elle loge nécessairement dans un organisme vivant. En octobre, M. Seth écrivait dans Nature que prôner l’idée que les systèmes d’IA actuels devraient bénéficier de droits est « une erreur », que cela nous détourne de la promotion du bien-être de « nos semblables, dotés de sensibilité ».

L’avertissement de M. Seth s’adresse à une frange d’acteurs de la Silicon Valley qui, en vertu du principe de précaution, veulent éviter de faire souffrir des IA. « Actuellement, ce que je vois dans la Bay Area, c’est la création d’une nouvelle religion », dit au Devoir Blake Richards, un spécialiste des neurosciences et de l’IA à l’Université McGill, à l’institut Mila et chez Google. « Des gens qui se décrivent comme des “altruistes efficaces” ou des “rationalistes” sont en train de devenir les adeptes de cette nouvelle religion basée sur l’IA. »

Ce Montréalais raconte que des technologistes radicaux lui ont « souvent » détaillé leur vision de l’avenir dans laquelle « une superintelligence serait devenue comme un dieu ». Selon eux, il vaut mieux se mettre dans les bonnes grâces de la divinité potentielle. C’est pourquoi M. Richards pense que les défenseurs des droits des machines ne sont pas seulement motivés par l’argent, mais aussi par un intérêt authentique, quoique non fondé sur la science, pour le bien-être des IA.

En ce qui le concerne, M. Richards croit que le mystère de l’expérience subjective est inaccessible, par définition, aux outils objectifs de la recherche scientifique. Il estime donc que le « problème difficile » de la conscience, posé en 1994 par le philosophe David Chalmers, ne sera jamais résolu. Mais une interprétation plus restreinte de la conscience pourrait s’appliquer aux machines, selon lui.

« La question qu’on peut se poser avec la science, explique-t-il, c’est si quelque chose possède les fonctions qu’on associe à la conscience : la capacité de parler de ce qu’on voit, la capacité de parler de ce qu’on entend, la capacité de penser à nos pensées — la métacognition —, la capacité de s’expliquer en tant qu’individu doté d’un point de vue unique, etc. Et à mon avis, ce sont toutes des fonctions computationnelles. On peut donc les exprimer avec les mathématiques, les programmer dans une IA. Donc, en réponse à cette question qu’on peut aborder avec la science, oui, l’IA peut être consciente, et probablement qu’elle l’est déjà, ou qu’elle le sera bientôt. »

En fin de compte, affirmer qu’une IA est consciente ou non dépend surtout de notre définition de la conscience, insiste Marcello Vitali-Rosati. Et conséquemment, donner ou non des droits à ces algorithmes, c’est un « choix politique et collectif » qu’il ne faut pas laisser à quelques milliardaires, dit le philosophe.