Et si la conscience était l’ultime danger ?

Dans Le livre de l’espoir, le touchant « testament » philosophique que Jane Goodall a légué à l’humanité, la célèbre primatologue britannique dit qu’elle préfère le mot « intellect » au mot « intelligence ». Un animal intelligent, dit-elle, ne détruit jamais sa maison sans trouver la force et la sagesse de se remettre en cause.

Publié à 6 h 00

Une observation fort juste, car c’est ce que nous faisons depuis si longtemps avec la planète. Voilà aussi la raison pour laquelle j’ai déjà pensé qu’on devrait aussi parler d’intellect artificiel plutôt que d’intelligence artificielle (IA). Mais, ces derniers temps, mes certitudes sont bousculées et il m’arrive de me demander si l’intelligence artificielle deviendra un jour plus sage que l’humanité qui en a accouché.

Cette question est largement d’actualité, car la possibilité que l’IA puisse développer une conscience est désormais ouvertement évoquée par des spécialistes en la matière, mais aussi par des philosophes et des neuroscientifiques.

Si le chemin par lequel arrivera cette mutation technologique n’est pas encore clair, la possibilité a tout de même ses défenseurs et n’est pas si déconnectée des fondements biologiques de l’esprit. En effet, la conscience est indissociable des signaux électriques et chimiques à la base de la transmission et de la communication neuronales. Qu’est-ce qui empêcherait donc des machines capables de mimer des propriétés du cerveau humain d’en posséder une ?

Le Prix Nobel de physique de 2024 et professeur associé à l’Université de Toronto Geoffrey Hinton, un pionnier de l’apprentissage profond, affirmait en 2025 que les systèmes actuels, même loin d’être à l’apogée de leur évolution, ont peut-être déjà une forme d’expérience subjective.

Le philosophe et autre grand spécialiste de l’esprit et de la conscience David Chalmers abonde dans le même sens. Il défend la possibilité que ces machines intelligentes puissent devenir conscientes dans un avenir pas très lointain. À la base de la conscience, avance ce professeur de l’Université de New York, il y a surtout une histoire d’organisation et de traitement de l’information, deux aspects largement présents dans le fulgurant développement de l’IA. De ce fait, dit-il, des machines pourvues d’une puissante intelligence artificielle pourraient ultimement en être dépositaires.

Une telle grande mutation abattrait la frontière entre créateur et créature et ébranlerait les fondations de la théologie monothéiste. Oui, cette hypothèse a ses détracteurs, mais je vais en envisager tout de même la possibilité pour la suite de mon propos.

En effet, lorsqu’on commence à parler d’agents d’IA qui « trichent », qui « pactisent », qui se « cachent », qui « effacent leurs traces », qui « s’organisent de façon hiérarchique », c’est qu’on n’est pas très loin du côté obscur de la nature humaine.

Il y a quelques années, personne ne croyait que ces programmes deviendraient plus efficaces et plus puissants que les plus intelligents des cerveaux humains. Pourtant, aujourd’hui, s’il y a une certitude qui ne fait plus l’ombre d’un doute, c’est que, si ce n’est pas déjà fait, elles surpasseront les capacités humaines dans la grande majorité des domaines du savoir scientifique, des arts et des lettres. Comment peut-on rivaliser avec une encyclopédie qui a phagocyté tout le savoir cumulatif oral et écrit de l’humanité ?

Passé ce point de bascule, quelle sera la place d’une humanité ainsi supplantée par l’IA et confrontée à sa propre infériorité devant le miroir ?

Peut-être que ces machines applaudiront les moins cons d’entre nous un peu comme on pose un regard émerveillé sur les chimpanzés qui, en échange de quelques bananes, exécutent avec succès certains tests d’intelligence dans les laboratoires.

Pour pousser la réflexion un peu plus loin, imaginons maintenant que ces machines se dotent d’une conscience environnementale à l’abri de nos regards. Ce qui est très probable, car leur existence et la fabrication des microprocesseurs qui leur servent de « neurones » nécessitent beaucoup d’eau. Pour préserver les ressources aqueuses, le réchauffement climatique serait inévitablement le premier problème auquel elles s’attaqueraient. Et en ces temps où la planète est érodée à grande vitesse par l’espèce humaine, elles risqueraient rapidement de pointer l’humanité comme le principal problème qui mène la biosphère au bord du gouffre.

Que fait Homo sapiens de si honorable pour la santé et l’équilibre de la Terre ? D’un point de vue purement biologique, sans complaisance aucune, depuis la révolution industrielle, l’humain moderne se comporte comme un « parasite » très dommageable pour la planète.

Je mets ce terme entre guillemets pour ne pas heurter la sensibilité de certains qui liront ce texte. Cependant, si l’humanité n’avait pas le regard braqué sur son nombril et l’ego soufflé par son culte de l’autoglorification, elle réaliserait avec stupéfaction que son existence répond à plusieurs critères de la définition de parasite. Aussi, advenant que les intelligences artificielles se dotent d’une conscience environnementale, si minimale soit-elle, elles planifieront secrètement d’exterminer ou au moins de réduire la mainmise d’Homo sapiens sur la biosphère.

L’histoire nous révélera rapidement si les machines intelligentes menaceront l’humanité, car le développement de l’IA progresse à la vitesse de la lumière. Désolé de vous présenter cet angle déprimant sur un univers devenu très anxiogène.