Le monde d’avant, c’est maintenant

Il m’arrive de me demander, parfois, ce que j’aurais fait de la fin de la dernière décennie si j’avais su ce qui nous attendait tous en 2020. La pandémie, et surtout peut-être les confinements successifs, ont transformé nos liens sociaux plus qu’on ne se l’avoue souvent. Je crains désormais que le choc politique, économique et sociologique qu’a été la pandémie ne m’apparaisse bientôt comme une vaguelette, avec le tsunami qui se profile à l’horizon. La dernière année du « monde d’avant » m’apparait moins être 2018 ou 2019 que celle que nous traversons en ce moment. Et il semble que plus les gens brillants, ici comme à l’étranger, comprennent et suivent de près ce qui se passe avec l’intelligence artificielle (IA), plus ils voient le même risque de tsunami à l’horizon.

Avant de passer pour une parano, commençons par énumérer les différents risques.

Premièrement, il y a celui qui a nourri les fantasmes de science-fiction dans plusieurs grands romans et films du vingtième siècle, soit le risque que l’on perde le contrôle de nos robots et qu’ils se mettent à attaquer les humains. La théorie circule plus largement depuis septembre, alors que l’ex-employé d’Anthropic et chercheur en IA Jacob Coxon a sonné l’alarme en faisant la tournée des grands médias américains.

Plusieurs compagnies, dont Anthropic, sont engagées dans une course à la « SuperIA » : une IA non seulement bien plus intelligente que les humains, mais capable de s’améliorer elle-même, sans apport humain. Si la SuperIA arrive alors que les grandes juridictions du monde, au premier chef celle des États-Unis, refusent d’encadrer son développement, on basculera dans un univers où ni moi, ni qui que ce soit d’humain, ne pourra deviner les conséquences. Puisqu’on ne sait pas ce qui s’en vient, il peut être absurde d’essayer d’évaluer la possibilité que cette SuperIA adopte des comportements malveillants et difficilement contrôlables. Il suffit de dire que cette probabilité est de toute évidence non nulle — et que Jacob Coxon n’est pas le seul chercheur du milieu à le penser.

Deuxièmement, il y a le risque lié à la cybersécurité. Le monde des mathématiques a été secoué en septembre, lorsqu’OpenAI a dévoilé qu’un de ses modèles avait proposé une solution au problème de Navier-Stokes, sur lequel les cerveaux les plus brillants ont pioché durant des générations. Les mathématiciens sont les premiers bouleversés et inquiets pour l’avenir de leur discipline. Mais on oublie peut-être la cybersécurité au passage, la difficulté de trouver des mots de passe ou des données cryptées reposant justement sur la résolution de problèmes mathématiques.

Si des modèles d’IA, et particulièrement de SuperIA, dans un futur proche, arrivent trop bien à résoudre des problèmes mathématiques, c’est la sécurité des gouvernements, des systèmes bancaires, des entreprises privées et des données personnelles des citoyens qui seront à risque. Mardi, 225 chercheurs de 21 pays, dont le Montréalais Yoshua Bengio, ont signé une importante lettre ouverte pour sonner l’alarme sur ce type de risque.

Les chercheurs demandent aux entreprises qui développent de nouveaux modèles d’IA de s’assurer que leur création soit mieux isolée, et qu’on prenne plus de précautions avant de les mettre en contact avec Internet. Ils demandent aussi qu’une institution internationale soit créée afin que tous puissent mettre en commun leurs erreurs et apprendre au même rythme, comme on le fait déjà avec l’aviation, par exemple.

Pendant ce temps, de plus en plus de grandes entreprises privées et de gouvernements se font conseiller de développer, pour leur propre sécurité future, de meilleurs intranets. Puisqu’on considère le développement fulgurant de cette IA capable de résoudre des problèmes comme étant un risque, on commence à prévoir la nécessité de s’en mettre à l’abri, en opérant en système clos.

Je ne pense pas avoir besoin d’expliquer longuement que tout risque « non nul » de brèche de sécurité compromettant les organisations publiques et privées constitue un risque absolument non nul de bouleversement économique et politique majeur. D’une ampleur jamais vue.

Troisièmement, il y a le risque plus près de nos quotidiens, pour notre jeunesse et son avenir. D’une part, il y a le recul des apprentissages. Une amie professeure a tenté d’illustrer le problème à ses étudiants avec l’image de l’escalier. Elle explique que tout curriculum est nécessairement construit marche par marche : l’apprenant est invité à les gravir. Sauf que si, par une période de stress de fin de session, on confie une partie de son travail à Claude ou à ChatGPT, même si on réussit à cacher l’astuce, il n’en reste pas moins qu’on a manqué une marche. La session suivante, les apprentissages ne seront pas faits, la marche suivante semblera encore plus haute et impossible à gravir ; la tentation de recourir à l’IA augmentera.

D’autre part, il y a l’abolition des postes de début de carrière dans une foule de secteurs professionnels. Il est très tentant d’augmenter sa « productivité » — pour reprendre le vocabulaire encouragé dans la vision économique de Mark Carney comme de plusieurs élus occidentaux — en confiant à l’IA des responsabilités qui auraient normalement été dévolues à des jeunes entrant sur le marché du travail.

Ce cocktail de difficultés d’apprentissage pour certains jeunes — pas tous, bien sûr — dont le parcours scolaire a déjà été le plus sérieusement bouleversé par la pandémie, amplifié par une abolition de postes confiés aux employés débutants qui peut vraisemblablement s’accélérer dans plusieurs secteurs d’emplois, pourrait être explosif. D’abord pour cette jeunesse elle-même. Ensuite pour toute la société : je ne vois pas d’exemple historique où une génération s’est sentie volée de son avenir sans qu’il n’y ait de répercussion politique majeure.

Je ne peux pas savoir lequel de ces trois risques se matérialisera, ni à quel rythme. Mais vous comprendrez qu’il me prend des envies, certains matins, de profiter de la vie maintenant… comme si nous étions en 2019.