Une IA qui se reproduit comme un organisme vivant : les chercheurs explorent un scénario digne de la science-fiction !

Dans un article publié le 12 octobre, des chercheurs d'Anthropic ont montré que certains modèles de LLMs pourraient s'autoreproduire sans accès à un centre de données et fonctionner sur des équipements grand public comme des « Smart TVs », des fours ou des réfrigérateurs intelligents.

Pour accomplir une tâche qui leur a été assignée, des agents IA peuvent analyser le réseau, exploiter une vulnérabilité et copier les paramètres de leur modèle sur une machine cible. Un tel « ver » (worm) peut se propager sur d'autres ordinateurs et exécuter ensuite des inférences directement sur le matériel compromis. Ce qui est nouveau dans l'expérience d'Anthropic est que la cible n'était pas un ordinateur puissant, mais un ensemble de 15 « smart TVs » génériques bon marché qui équipent beaucoup de foyers. Non seulement, le modèle a montré qu'il pouvait s'exécuter, certes lentement, mais qu'il pouvait éventuellement solliciter l'aide d'un modèle plus puissant accessible sur le réseau. La plus grande probabilité étant que le grand modèle soit à l'initiative de la stratégie, déployant les petits modèles en tant que sous-agents.

Un modèle (Gemma4-26B-A4B) réparti sur 15 boîtiers Android TV génériques, chaque TV hébergeant deux des couches du modèle lors de son exécution. Source Anthropic, « AI models may be capable of self-replicating without access to a datacenter ».

Nous sommes loin d’un scénario « Skynet », mais cette étude montre qu’une prolifération de virus IA est possible, surtout si un humain malveillant en est à l’origine.

 L'organisation fondamentale d'un organisme vivant au niveau cellulaire est un système auto-réplicateur, c'est-à-dire un système organisé de telle manière qu'il est capable de se dupliquer lui-même dans son environnement. En effet, lors du processus de copie, des erreurs peuvent apparaître et, dès lors, créer des variants qui vont induire une forme d'évolution : ceux qui sont adaptés vont « survivre », les autres disparaître, et ainsi de suite. Le domaine de la Vie Artificielle étudie depuis longtemps ce phénomène, après les travaux précurseurs de John von Neumann sur les automates autoreproducteurs dans les années 1940.

Dans le cas des LLMs autoréplicateurs, il ne s'agit pas à proprement parler d'une évolution darwinienne avec croisements et mutations, mais plutôt de type lamarckienne, où les modèles et les « prompts » subissent une adaptation à mesure qu'ils se propagent. Par exemple, ils pourraient gagner en efficacité en se répliquant de manière plus fiable sur des matériels déjà rencontrés. Les modèles testés sont encore très loin des capacités de réplication autonomes, mais leur puissance déjà démontrée en tant qu'agents de programmation s'appliquent également potentiellement à la réplication autonome.

Le réseau Internet pourrait devenir à l’image de l’infosphère des romans de science-fiction cyberpunk.

On peut dès lors imaginer, dans un futur plus ou moins proche, des entités IA auto-réplicatrices dont le « génotype » serait un modèle de langage et ses « prompts ». Elles pourraient prendre la forme de worms (vers) ou de blobs (myxomycètes) informatiques évoluant sur des infrastructures de calcul et de données relativement peu sécurisées, ou distribués sur le réseau des objets connectés ayant assez de mémoire et de puissance de calcul pour héberger une portion de leur code. Ainsi, une prolifération incontrôlée de ces formes de parasites informatiques consommerait une part non négligeable de la puissance de calcul mondiale. L'émergence de ces réplicateurs lents constituerait également un signe avant-coureur de l'apparition de formes plus efficaces et agressives, capables de compromettre des systèmes mieux sécurisés.

Le réseau Internet pourrait alors devenir à l'image de l'infosphère des romans de science-fiction cyberpunk, où foisonnent des agents IA s'exécutant sur tous types de matériels. Une nouvelle forme de vie artificielle, encore hypothétique, mais dont nous devons chercher à entraver l'émergence et la propagation, tout en nous préparant à évoluer dans un monde où ils pourraient être durablement présents.