Qui est Dario Amodei, patron d’Anthropic (Claude), chantre des progrès de l’IA, et héraut de notre perte ?

Il y a la belle histoire. Le scénario, avec son héros. Dario Amodei, ou le chantre de l’IA éthique, qui en est arrivé là pour, symboliquement, sauver le père. Commençons par là.

Dario Amodei grandit dans les années 80 à San Francisco. Tout près de la Silicon Valley. Avec des parents aimants, qui "m’ont donné le sens du bien et du mal, et de ce qui compte dans le monde, tout en m’inculquant un profond sens des responsabilités", assure-t-il à Medium, en 2025. Son père, immigré italien, était maroquinier, et sa mère s’occupait de projets de rénovation et de construction de bibliothèques.

La révolution que représente internet au moment de son adolescence ne le bouleverse pas. "Ce qui m’intéressait, c’était la découverte des vérités scientifiques fondamentales", confie-t-il encore.

L’IA, voie royale vers les progrès de la médecine

Il optera pour la physique, et étudiera notamment dans la célèbre université de Stanford. Il a une vingtaine d’années quand il perd son père, après une longue maladie. Il bifurque alors vers la biologie, dans une autre université réputée, celle de Princeton. Dans sa toute dernière tribune (il en publie régulièrement sur son propre site), il évoque ce décès au moment de défendre "les incroyables bénéfices" que l’intelligence artificielle peut apporter.

Je pense que l’IA pourrait permettre de guérir la plupart des grandes maladies au cours des cinq à dix prochaines années.

"Je pense que l’IA pourrait permettre de guérir la plupart des grandes maladies au cours des cinq à dix prochaines années, d’accélérer considérablement la croissance économique, de créer un monde d’abondance où chacun disposerait de davantage de moyens d’agir, et d’ouvrir la voie à une renaissance de la démocratie et de la liberté. Cette urgence, je la ressens personnellement. Mon propre père est mort d’une maladie qui a été guérie quelques années seulement après son décès, et j’ai moi-même survécu à un cancer diagnostiqué à un stade précoce qui, cinquante ans plus tôt, n’aurait pas pu être traité."

La mort de son père agit apparemment comme un moteur. L’IA comme voie royale vers les progrès médicaux (et le bien de l’humanité). D’autant que, quelques années après la mort de son père, un nouveau traitement, qui aurait pu le sauver, est apparu, précise-t-il encore à Medium. Il aurait juste fallu pouvoir accélérer le tempo.

OpenAI : GPT-3 puis la brouille

Mais à l’époque, il n’est encore qu’un étudiant, qui entrevoit assez vite les possibilités qu’ouvre l’IA, alors balbutiante. Il commencera sa carrière au sein de Baidu, moteur de recherche chinois, qu’il quittera rapidement pour un bref passage chez Google Brain (projet dédié l’apprentissage profond) avant de rejoindre OpenAi, en 2016. L’entreprise venait d’être lancée par Elon Musk et Sam Altman, entre autres, pour contrecarrer Google.

OpenAi se présente alors comme "une société de recherche à but non lucratif spécialisée dans l’intelligence artificielle. Notre objectif est de faire progresser l’intelligence numérique de la manière la plus susceptible de profiter à l’humanité dans son ensemble, sans être limités par la nécessité de générer des profits financiers". En 2018, la société lance son premier grand modèle de langage, GPT.

Dario Amodei, vice-président de la recherche, pilotera le développement de GPT-2 et GPT-3 (quelques innovations plus tard naîtra ChatGPT). Mais l’ambiance tourne au vinaigre, et, en 2020, il finit par claquer la porte, entraînant avec lui sa sœur Daniela (à présent présidente d’Anthropic), et plusieurs autres personnes. Dans une interview accordée en juin dernier à Bloomberg, il revient sur les raisons de son départ : "Il existe de nombreux désaccords légitimes possibles sur la sûreté de l’IA. On a certainement eu certains de ces désaccords." Mais ce n’est pas une raison suffisante pour partir, poursuit-il.

"Mais quand tu sens que tu ne peux pas faire confiance à quelqu’un, que leurs valeurs ne sont pas les valeurs qu’ils disent avoir, quand tu sens qu’ils ne sont pas honnêtes, […] ça rend très difficile de continuer à travailler avec une entreprise." Il se dit "en paix" avec le fait que chacun fasse désormais les choses de son côté, à sa manière, et ajoute : "Nous verrons qui gagnera sur le marché et dans l’opinion publique."

Nous verrons qui gagnera sur le marché et dans l’opinion publique.

Sans le nommer, Dario Amodei fait référence à Sam Altman, le patron d’OpenAI. La journaliste rappelle d’ailleurs, plus tôt dans l’interview, que les deux hommes ont refusé de se tenir la main au sommet de l’IA, en Inde.

Revenons quelques années en arrière. En 2021, quelques semaines après avoir quitté OpenAI, Dario Amodei fonde Anthropic. Anthropic comme "anthropos", "être humain" en grec ancien. La volonté affichée est de remettre l’humain et ses intérêts au sein du développement de l’IA, d’être à la pointe du secteur, tout en apportant une attention spécifique aux questions de sécurité.

Parmi les investisseurs de la première heure, on retrouve Sam Bankman-Fried, génie déchu des cryptomonnaies condamné à 25 ans de prison pour fraude. Lui et d’autres bailleurs de fonds de la jeune start-up appartiennent au mouvement de "l’altruisme efficace ", décrit par Vanity Fair comme "des rationalistes obsédés par la sécurité aux objectifs ostensiblement utopiques", et par Yann Le Cun comme "une secte non religieuse, [dont les membres] ont très peur des risques existentiels et se sont mis dans la tête de sauver l’humanité de ses propres bêtises". Dario Amodei affirme ne pas appartenir à ce mouvement.

Les lignes rouges

Anthropic se concentre sur une clientèle d’entreprises. Il séduit, notamment avec la programmation assistée par IA (le code) (OK Cette formulatioN ?). Dans le grand public, beaucoup découvrent son chatbot, Claude (lancé en 2023) à l’occasion d’une passe d’armes entre la jeune entreprise et le gouvernement américain.

Le Pentagone avait recours à Claude, et l’a notamment utilisé pour planifier l’enlèvement du président vénézuélien, Nicolas Maduro. En février 2026, à quelques jours de l’opération américaine en Iran, Pete Hegseth, le secrétaire américain à la Défense pose un ultimatum à Anthropic, lui enjoignant d’ouvrir son modèle sans contraintes, sans les garde-fous habituellement intégrés.

Dario Amodei refuse. Il évoque "deux lignes rouges": la surveillance de masse des Américains et les armes entièrement autonomes, sans intervention humaine. "C’est une question de principe : défendre ce qui est juste", ajoute-t-il dans une interview à CBS. L’administration Trump bannit Anthropic de toutes les agences fédérales, considérant la firme comme "un risque pour la sécurité nationale". Et c’est Sam Altman (OpenAI) qui récupère le contrat.

C’est une question de principe : défendre ce qui est juste.

Cela vaut finalement à Claude un bon coup de pub, les téléchargements de son app et les inscriptions se multiplient dans les jours qui suivent. De nombreux usagers désinstallent ChatGPT, au moins pour un temps.

Le dirigeant d’Anthropic s’opposera à Trump en d’autres occasions, notamment, en critiquant le projet de loi fédéral interdisant aux Etats américains de réguler l’IA. Il n’était d’ailleurs pas présent à la cérémonie d’investiture du président (contrairement à Altman, Zuckerberg ou Besos), et avait supporté Kamala Harris durant la campagne.

Récemment, Anthropic a rapporté que son IA avait été utilisée dans plusieurs pays, dont la Chine et l’Iran, pour entraîner d’autres IA, surveiller des minorités ethniques et des dissidents, et tenter de concevoir des armes biologiques, tout en précisant qu’elle avait mis fin à ces opérations.

Realpolitik

Mais tout le monde n’est pas si admiratif du courage et de la force de conviction de Dario Amodei. Certains distinguent un personnage plus commun derrière la belle histoire bien écrite, le scénario bien rodé. Un patron pas si différent des autres, qui roule avant tout, pour son entreprise.

Malheureusement, je pense que le principe selon lequel ‘aucune mauvaise personne ne devrait jamais profiter de notre succès' assez difficilement compatible avec la gestion d’une entreprise.

Une entreprise qui entraîne ses modèles sur des contenus protégés sans payer de droits d’auteur (elle a d'ailleurs dû verser au moins 1,5 milliard de dollars à un fonds américain d’indemnisation d’auteurs qui poursuivaient l’entreprise pour avoir téléchargé illégalement des millions de livres). Une entreprise qui a profité des investissements de Google, Microsoft ou Amazon. Et qui, comme les autres, s’est tourné vers les pays du Golfe (dont le Qatar) pour lever des fonds. "Malheureusement, je pense que le principe selon lequel ‘aucune mauvaise personne ne devrait jamais profiter de notre succès’ est assez difficilement compatible avec la gestion d’une entreprise", a écrit Dario Amodei, dans une note adressée à ses employés, publiée par WIRED.

Sa femme de l’ombre

Notez que, d’après le Wall Street Journal, Amodei a aussi approché Jared Kushner pour le persuader d’investir. Sa femme, Cami Clark, étant, toujours selon le Wall Street Journal, "une amie" d’Ivanka Trump. C’est d’ailleurs l’un des rares éléments que le quotidien américain a réussi à glaner sur Cami Clark.

C’est comme si on avait effacé son nom du générique. D’après le WSJ, qui cite "une personne au fait du dossier", "des efforts ont été déployés pour supprimer toute référence à elle" en ligne. Même Claude, interrogé par le journal sur la question, répondait : "Le statut marital de Dario Amodei ne semble pas être clairement confirmé." On sait qu’elle est née en 79 dans le Nevada, et qu’elle épouse Dario Amodei en 2022, en Italie, après 8 ans de relation.

Juste avant de rencontrer le futur fondateur d’Anthropic, elle entretenait une relation avec Eric Schmidt, alors PDG de Google. C’est elle qui permettra à la jeune start up de bénéficier du soutien financier de ce dernier. Elle a pour sa part tenté, au début des années 2010, de convaincre Jeffrey Epstein (déjà condamné en 2008 pour "sollicitation de prostitution" et "sollicitation de mineure à des fins de prostitution") d’investir dans son entreprise de "porno de luxe gratuit", notamment. Elle est décrite à présent comme "une des voix les plus influentes qui façonne les décisions" du patron d’Anthropic.

Des voix critiques se sont encore élevées à l’occasion du dernier épisode en date de la série "les dangers de l’IA", qui ressurgit régulièrement. Début septembre, Jacob Coxon, employé d’Anthropic, ex-employé d’OpenAI, démissionne en avertissant, sur X : "Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies. Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing".

"Chez Anthropic, écrit-il encore, les enjeux sont bien compris, mais ils sont enfermés dans une course pour y parvenir les premiers : ils pensent que personne d’autre n’agira de façon responsable, donc qu’ils doivent le faire eux-mêmes, malgré le risque."

Dario Amodei a répondu à travers un essai publié sur son site (déjà cité plus haut). Intitulé "We must pace the frontier", traduit en intégralité par le Grand Continent. Il commence par rappeler les bénéfices de l’IA (voir aussi plus haut) : "Maniée avec soin, l’IA peut être la dernière d’une longue lignée de miracles technologiques qui ont élevé et ennobli l’humanité."

Ils comprennent le risque de perdre le contrôle des systèmes d’IA, le détournement de l’IA à des fins de cyberattaques et de bioterrorisme, et de graves perturbations économiques.

Il en pointe ensuite les risques : "Ils comprennent le risque de perdre le contrôle des systèmes d’IA, le détournement de l’IA à des fins de cyberattaques et de bioterrorisme, et de graves perturbations économiques. Une course vers le bas, stimulée par les incitations commerciales, peut rendre ces risques plus aigus."

Ralentir la cadence

Il assure que son entreprise a tenté de faire passer "la prudence avant la vitesse" et "la sagesse avant le profit". Mais, vu l’incident OpenAI-Hugging Face (piratage des ordinateurs de Hugging Face par des intelligences artificielles des laboratoires d’OpenAI) et vu la vitesse à laquelle l’IA progresse désormais (en s’auto-améliorant), il a désormais acquis la conviction qu’il faut "ralentir la cadence à laquelle nous améliorons les capacités des modèles d’IA".

Et pour ralentir la cadence, il propose un plan en trois étapes : un contrôle externe et indépendant des modèles d’IA tout au long de leur développement (auquel Anthropic s’engage unilatéralement), une réglementation à l’échelle du secteur, par le secteur et avec le soutien des gouvernements, et une réglementation mondiale, entre gouvernements démocratiques et autoritaires.

Complexe de supériorité

Et il termine "les mesures que je propose […] ne sont pas faciles. Mais je crois que nous devons à l’humanité d’essayer". Il a reçu le soutien de Sam Altman (OpenAI), d’Elon Musk, du président de Google DeepMind, Demis Hassabis, et du PDG de Microsoft, Satya Nadella. (Pas du président Trump, qui s’oppose à toute régulation.)

Les mesures que je propose […] ne sont pas faciles. Mais je crois que nous devons à l’humanité d’essayer

Et c’est là que l’on a réentendu des voix plus sceptiques, qui voient en Dario Amodei un homme commun plutôt qu’un héraut de l’éthique. Invité le 16 septembre à une conférence organisée par Science PO, le Français Yann Le Cun, ex-directeur scientifique de Meta, président exécutif d’Advanced Machine Intelligence (AMI) et professeur à la New York University résumait ainsi le propos de Dario Amodéi : "Régulez l’IA, interdisez l’Open Source, [mais] bien sûr ne nous régulez pas nous, parce que, nous, on est intelligents et on sait comment gérer l’IA". Et il l’analysait ensuite : "Ça part d’un complexe de supériorité insupportable, mais surtout d’une volonté de capturer le marché par la régulation, en convaincant les gouvernements de par le monde que l’IA est intrinsèquement dangereuse, or c’est faux."

La plus grande introduction en bourse de l’histoire

Mistral AI (entreprise française), dans une réponse à une interpellation du Figaro, ne dit pas autre chose : "Certains acteurs établis profitent de ce moment pour consolider leur position sur le marché, en poussant des réglementations conçues pour les favoriser au détriment de leurs concurrents".

Pour d’autres, il s’agit d’un argument commercial, destiné à se mettre en avant comme "L’entreprise responsable parmi les géants de l’IA", à quelques encablures de l’entrée en bourse d’Anthropic.

La jeune pousse née en 2021 prévoit en effet d’entrer en bourse cette année. Ce serait pour le mois de novembre. Le New York Times évoque une valorisation potentielle vertigineuse estimée à 2000 milliards d’euros. Cela pourrait être la plus grande introduction en bourse de l’histoire. Dario Amodei, alarmiste, utopiste, héros de l’éthique et décidément homme d’affaires.