Les apprentis sorciers de l’intelligence artificielle

En janvier dernier, l’horloge de l’apocalypse a encore été avancée. Nous ne serions plus qu’à 85 secondes de la fin du monde. Au-dessus de nos têtes, trois menaces (guerrière, climatique et technologique) sont alignées, avaient expliqué les directeurs du Bulletin of the Atomic Scientists de l’Université de Chicago. On peine à imaginer la folie qui a pu s’emparer de leurs cadrans lorsqu’ils ont vu tous ces bonzes de l’intelligence artificielle (IA) donner raison à un lanceur d’alerte jusqu’alors connu ni d’Ève ni d’Adam.

C’est que, oui, l’IA pourrait tuer tous les humains d’ici la fin de la décennie, selon la formule choc retenue par le jeune chercheur démissionnaire d’Anthropic Jacob Coxon.

Ce qui le tient réveillé la nuit — et nombre de développeurs comme lui ? Moins un détournement malfaisant de l’IA par des humains sans scrupule (une menace pourtant réelle et immédiate) que l’avènement (probable et de plus en plus prochain) d’une superintelligence non alignée dotée d’une capacité d’autoamélioration récursive lui permettant de se développer par ses propres moyens, sans intervention humaine ni possibilité de contrôle.

Dans ce scénario, une IA pourrait aller jusqu’à mettre sa propre survie devant celle de l’humanité. Pas par méchanceté. Parce que c’est ainsi qu’elle conçoit sa mission. C’est le principe du maximiseur de trombones de Nick Bostrom. Le philosophe a démontré qu’une IA, même si elle poursuit un but inoffensif (ici, produire toujours plus de trombones), peut, si elle est mal alignée, s’emporter jusqu’à faire tout ce qui est en son pouvoir pour transformer les ressources — les humains, la Terre, le système solaire — en trombones.

Simple fable ? Si seulement. On a beaucoup parlé de l’échappée qui a permis à des agents d’OpenAI de tricher et de comploter ensemble pour arriver à pirater le site de Hugging Face à la barbe de leurs développeurs. Mais il y a aussi eu d’autres échappées inquiétantes chez des concurrents. On pense à Anthropic, à Meta, à Google ou à la firme chinoise Moonshot AI.

Pour qui fraie dans ce milieu, de tels risques font partie des conversations inévitables. Mais le choc est brutal pour le commun des mortels qui a vu Dario Amodei (Anthropic), puis Sam Altman (OpenAI), Elon Musk (xAI), Demis Hassabis (DeepMind) et Satya Nadella (Microsoft) opiner et réclamer la pédale douce ce week-end.

Leur appel senti au ralentissement n’est pas pour autant un désaveu. Amodei et consorts restent de ceux qui croient dur comme fer que l’IA a le pouvoir de changer nos vies pour le mieux — en éradiquant des maladies et la pauvreté, par exemple. Mais ils savent également qu’avec de si grands pouvoirs, le pire ne peut être écarté. À plus forte raison si une IA se met à progresser plus rapidement que les chercheurs n’arrivent à la suivre.

Déjà qu’on ne contrôle pas grand-chose. Les développeurs d’IA partagent avec les spécialistes du cerveau un défi quasi mystique, puisqu’une large part de leur savoir leur reste inaccessible. C’est le paradoxe de la boîte noire. Dans les deux cas, ces ultraspécialistes ont beau maîtriser de mieux en mieux les composants de base de la boîte (le micro), le fonctionnement de l’ensemble (le macro) continue de leur échapper. Pire, dans le cas de l’IA, son mystère continuera de s’épaissir à mesure qu’on lui laissera des initiatives.

Le débat ne peut plus être réduit à ses composantes philosophico-théoriques. Il est technique, économique, éthique, social et furieusement géopolitique, avec la course débridée que mènent les États-Unis et la Chine. Personne de sensé ne laisserait les questions de sécurité liées à l’IA dans les mains d’une poignée de nations qui se font la course en roulant des mécaniques. Ni aux apprentis sorciers qui tirent les ficelles des grands laboratoires, d’ailleurs. Tout ce beau monde est à la fois juge et partie d’enjeux qui sont trop vitaux pour la planète pour être sous-contractés au plus fort la poche.

Le holà d’Amodei et tutti tombe sous le sens, mais seulement si c’est pour utiliser ce temps à bon escient, c’est-à-dire pour se doter d’une gouvernance mondiale idéale et d’une réglementation stricte qui permettront le développement d’une IA éthique et sûre. Le p.-d.g. de la firme canadienne Cohere a raison de se méfier de certaines des solutions mises en avant par Anthropic dans son plaidoyer (ralentir, légiférer, inspecter). Mal calibrées, celles-ci pourraient contribuer à renforcer l’hégémonie des grands laboratoires au prix de la survivance des plus petits. On le sait pourtant, l’humanité n’est jamais bien servie par un cartel.

Nos chefs en campagne ont jusqu’ici largement éludé la question, mais elle va les rattraper. Comme jadis la maîtrise de la fission a redessiné la carte géopolitique, la souveraineté numérique et la maîtrise des supercalculateurs d’IA sont à redéfinir le leadership mondial.

Plusieurs réclament des garde-fous semblables à ceux mis en place pour le nucléaire. Répéter le même prodige avec l’IA paraît un premier pas nécessaire vers une sagesse collective dont on ne saurait se passer dans cette course à l’IA qui va fatalement changer la face de notre monde.