IA : le patron d’Anthropic appelle à ralentir la course aux modèles

Le directeur général d'Anthropic, Dario Amodei, a appelé samedi 12 septembre 2026 les entreprises spécialisées dans l'intelligence artificielle (IA) à ralentir le rythme auquel elles améliorent les capacités de leurs modèles, avec un cadre en ​trois étapes visant à modérer leur développement et à gagner du temps pour gérer les risques associés à celui-ci.

Dans un contexte de craintes grandissantes d'utilisations abusives de l'IA, Dario Amodei a présenté ses propositions dans un long essai publié sur le réseau X. "Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. Les ​progrès sembleront toujours rapides, et nous devons utiliser à bon escient le temps ⁠que nous gagnons", a-t-il écrit.

Le choc de la cyberattaque sur Hugging Face

Elon Musk, qui dirige xAI, de même que Sam Altman, directeur général d'OpenAI, ont déclaré dans des messages également publiés sur X qu'ils ​partageaient l'avis du patron d'Anthropic.

Le plan de celui-ci prévoit la mise en place d'évaluateurs indépendants au sein des principales ⁠entreprises d'IA, une coordination entre les ⁠sociétés pionnières du secteur pour établir des normes de sécurité et limiter un développement incontrôlé de l'IA, ainsi qu'une coopération internationale pour gérer les ​risques liés à celle-ci.

Dario Amodei a annoncé ses propositions quelques jours après la publication par Anthropic, entreprise basée à San Francisco, d'un rapport indiquant qu'elle a empêché l'utilisation ‌de son modèle d'IA, Claude, dans des projets d'armes biologiques ainsi que ‌dans une campagne présumée d'espionnage informatique liée à la Russie contre l'Ukraine.

Le directeur général d'Anthropic argue de l'aptitude croissante de l'IA à s'améliorer d'elle-même, des inquiétudes relatives au fait qu'elle pourrait dépasser la capacité humaine à contrôler son ‌fonctionnement, ainsi que du récent incident dans lequel des modèles d'OpenAI ont contourné des barrières de sécurité d'Hugging Face, comme principales raisons de freiner les ‌progrès des modèles.

Internet contrôlé d'ici 6 à 12 mois ?

L'inquiétude concernant les dangers potentiels de l'IA est montée d'un cran cette semaine lorsque Jacob Coxon, chercheur chez Anthropic, a démissionné en déclarant ‌que "les personnes qui développent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie".

Plusieurs dirigeants d'OpenAI ont suggéré que les principaux laboratoires devraient être prêts à coordonner un ralentissement volontaire, si nécessaire, afin de renforcer la confiance dans leurs mesures de sécurité.

"Compte tenu de l'accélération du ⁠développement des capacités de l'IA, je crains que d'ici 6 à 12 mois, un [groupe de modèles] ne soit capable de prendre le ‌contrôle de l'intégralité d'internet, ce qui pourrait entraîner des centaines de milliards de dollars de dégâts", a ⁠écrit Dario Amodei.

Précisant qu'il ne préconisait pas d'arrêter l'entraînement ‌des agents d'IA ni les progrès techniques, il a dit ‌vouloir s'assurer que les entreprises prennent le temps nécessaire pour harmoniser et sécuriser leurs modèles, ‌et que des évaluateurs tiers valident ​ces mesures.