Anthropic donne un laboratoire biologique à Claude : l’IA y met 21 heures pour trouver un nouvel outil pour modifier l’ADN !

Vingt et une heures. C'est le temps de travail concentré qu'il a fallu à Claude pour identifier ce qu'Anthropic présente comme une avancée majeure de la biologie moléculaire : un système enzymatique caché chez les bactériophages.

Son IA aurait repéré, dans l'ADN de phages, un ensemble d'enzymes encore inconnu qui fonctionne un peu comme CRISPR, un outil utilisé par les chercheurs pour modifier l’ADN, c'est-à-dire qui sait couper, copier et coller de l'ADN. Jusqu'à cette découverte, personne n'avait identifié cet ensemble.

Le cri d'alarme des chercheurs : l'évolution de l'IA est en train de dépasser l'entendement humain

À mesure que les systèmes d’intelligence artificielle gagnent en puissance et en autonomie, leur fonctionnement devient de plus en plus difficile à saisir. Des chercheurs mettent en garde contre une tendance qui pourrait compliquer notre capacité à garder le contrôle sur ces technologies.... Lire la suite

Si effectivement cette avancée est validée par la communauté scientifique, Claude a déniché de nouveaux outils pour éditer l'ADN. Cette découverte fait écho à la résolution récente et discutable d'OpenAI des équations de Navier-Stokes.

Une annonce qui interroge

Derrière cette nouvelle prouesse de l'IA de Claude, l'information qui questionne vraiment est ailleurs : ces travaux sont issus d'un laboratoire de recherche biologique créé par Anthropic dans la région de San Francisco, aux États-Unis. Cette révélation a été faite cinq jours avant l'annonce de la découverte. Cette seule information est vertigineuse.

En créant son propre laboratoire biologique, Anthropic esquisse un futur où l'IA ne sera plus seulement l'assistante des scientifiques. Elle peut réaliser ses propres recherches, ses hypothèses et ses découvertes. Est-ce inquiétant ou s'agit-il d'une avancée ? Difficile de répondre à cette question, mais cela en soulève une autre : si cette logique s'étend à la chimie, aux matériaux ou à la physique, que se passera-t-il lorsque les IA commenceront à mener leurs propres expériences ?

Anthropic a monté secrètement un véritable laboratoire de recherches biologiques où son IA Claude mène les travaux. © Anthropic

L’humain garde la main… pour le moment

En attendant d'y voir plus clair, Anthropic a apporté des nuances sur cette découverte menée par l'IA de Claude. Selon Dario Amodei, le patron d'Anthropic, la découverte a été faite en grande partie, mais pas entièrement, par l'IA. D'ailleurs, une équipe de Stanford avait déjà décrit un système en partie similaire. Là encore, l'IA s'est sans doute inspirée de ces recherches. Et surtout, il reviendra aux chercheurs de mesurer ce que cette découverte apporte réellement.

Autre précision, si l'IA analyse, ce sont de véritables scientifiques qui ont mené toutes les expérimentations de labo. Mais Dario Amodei n'exclut pas qu'un jour Claude contrôle seul les équipements, avec... des garde-fous adaptés.

Une ligne rouge vient d’être franchie : le nouveau GPT-6 atteint un niveau qualifié de « critique » et inquiète ses créateurs !

Présenté comme son modèle « le plus aligné au monde », c’est-à-dire qui fait vraiment ce qu'on attend de lui, GPT-6 Astra fait un peu peur à ses propres créateurs.... Lire la suite

Mais cette dernière explication n'est pas forcément rassurante, puisque plusieurs dirigeants de l'IA, dont Dario Amodei, reconnaissent que les modèles sont devenus suffisamment puissants pour justifier un ralentissement et des protocoles de tests de sécurité. Enfin, de façon paradoxale, le patron d'Anthropic redoute lui-même une utilisation de l'IA à des fins de bioterrorisme.