« Les IA sont conscientes » : le prix Nobel Geoffrey Hinton soulève peut-être la question la plus difficile de la science

C'est l'ensemble de nos expériences subjectives depuis le réveil jusqu'à l'endormissement : une perception unifiée du monde et de notre propre corps, de nos pensées, se sentir comme une unité vivante dans son environnement. Elle est la seule chose dont nous soyons certains en tant que personne. Tout le reste relève de l'inférence.

Certaines activités, comme écouter ou jouer de la musique ont le pouvoir de se libérer de soi-même temporairement, de se débarrasser du poids de ses pensées, de sa personnalité conceptuelle. Il existe de nombreuses conceptions scientifiques de la conscience, qu'elles soient neurobiologiques, fonctionnelles, computationnelles, etc., mais aucune n'est capable d'expliquer précisément les mécanismes à l'oeuvre dans une expérience spécifique de conscience de soi, comme ressentir une douleur, ou le plaisir de sentir le parfum d'une rose.

La question de la conscience est l’un des plus grands mystères de la science.

Selon une hypothèse largement répandue, la conscience est le résultat de l'évolution biologique, une propriété émergente de certaines formes vivantes donnant aux êtres qui la possède un avantage sélectif par rapport aux autres.

Il est admis que la conscience résulte de l'activité du cerveau. Toutefois, toutes les approches analytiques visant à l'expliquer précisément par des interactions précises entre neurones ont échoué. La difficulté est peut-être que dans le cas de la conscience, les réseaux neuronaux à l'oeuvre ne peuvent être séparés du tout : du cerveau dans son ensemble, lui-même du corps et de l'environnement, comme des poupées slaves emboîtées à l'infini.

Pour Roger Penrose, prix Nobel de physique, la conscience est le résultat de phénomènes quantiques aux niveaux des neurones.

Si tel est le cas, alors la conscience est impossible à reproduire sur un ordinateur. Certains argumentent en statuant qu'il n'y a pas de conscience, juste des illusions de conscience, alors que d'autres la croient omniprésente dans l'univers, plus fondamentale que l'espace-temps.

Ce type de conception connaît un regain d'intérêt avec certaines interprétations de la mécanique quantique, où le rôle de la mesure par un observateur est primordial, car elle cause l'effondrement (collapse) de la fonction d'onde. Ainsi, dans l'expérience de la double fente de Young avec émission d'une seule particule à la fois, le résultat change lorsqu'il est observé avec un détecteur : les motifs d'interférences disparaissent comme si les ondes décidaient alors de se comporter comme des particules. Est-ce à dire que l'observation par une créature consciente est à l'origine de la réalité physique telle que nous la percevons ?

Cette question troublante fait l'objet de nombreux débats philosophiques, métaphysiques, épistémologiques.

Un virus a t-il une conscience de sa propre existence ? Probablement pas. Une amibe alors ? Une mouche ? Une souris ? Un chat ? Un arbre ? À partir de quel niveau de complexité organisationnelle peut-on parler de conscience ?

Autant de questions auquelles il est difficile de répondre avec certitude, tant la conscience semble un concept difficile à cerner. Alors quand Geoffrey Hinton affirme que les chatbots sont conscients, il ne prend pas un grand risque. Comme je l'ai déjà évoqué, je pense qu'il a tort. Ce n'est théoriquement pas totalement impossible, en particulier du fait que l'on ne sait pas définir précisément et expliquer le phénomène qu'est la conscience, mais hautement improbable. Aussi improbable que ma machine à café ait une conscience.