Anthropic propose une loi qui confierait à un juge le dernier mot sur tout blocage

Faute de loi fédérale, Anthropic, le créateur de l’assistant d’IA Claude, propose à des élus américains son propre texte pour encadrer l’IA : Washington pourrait bloquer un modèle dangereux, mais seulement avec l’aval d’un juge.

Selon le texte, dévoilé par le média Politico, Washington pourrait bloquer un modèle en cas de risque imminent de provoquer plus de 50 morts ou blessés graves, ou plus d’un milliard de dollars de dégâts, mais seulement avec l’aval d’un juge.

Le projet imposerait aussi aux développeurs de « tester les modèles les plus puissants », d’être « transparents auprès du public » sur leurs résultats, de les « soumettre à une évaluation indépendante » et de « maintenir un solide programme de sécurité », a indiqué vendredi à l’AFP un porte-parole.

Anthropic quietly pitches its own AI safety bill to lawmakers https://t.co/Dh71euX8y7

— POLITICO (@politico) October 16, 2026

Sous Donald Trump, la politique américaine en matière d’IA repose essentiellement sur des décrets et des engagements volontaires des entreprises, pour ne pas ralentir un boom qui porte l’économie du pays.

Divisé, le Congrès n’a rien voté à ce jour sur le sujet, devenu brûlant après les révélations l’été dernier d’une série d’incidents de sécurité causés par des IA de pointe, dont certaines ont échappé au contrôle de leurs concepteurs.

Anthropic, qui a été bannie du Pentagone par l’administration Trump en février, a ensuite été contrainte en juin par Washington de suspendre pendant près de trois semaines ses modèles les plus avancés.

« Notre proposition donne aussi au gouvernement fédéral la capacité de bloquer ou de dissuader les déploiements dangereux des modèles les plus puissants », a déclaré le porte-parole de l’entreprise, dont les relations avec l’administration Trump se sont récemment réchauffées.

Le patron d’Anthropic, Dario Amodei, a appelé l’industrie à ralentir à la mi-septembre, craignant qu’un groupe d’agents d’IA soit capable de « prendre le contrôle de l’intégralité d’Internet » d’ici six à douze mois.

Donald Trump a qualifié de « forces négatives » les multiples appels à ralentir. David Sacks, son ancien conseiller pour l’IA, accuse Anthropic d’utiliser la réglementation pour entraver ses concurrents.

Le texte proposé primerait aussi sur certaines lois des États, comme celle en vigueur en Californie. En juin, Anthropic écrivait qu’« en l’absence d’une loi fédérale forte, les États devraient conserver la pleine autorité pour légiférer ».

Charlie Bullock, du centre de réflexion Institute for Law&AI, a salué sur X un texte « plutôt raisonnable », « plus que ce qu’ont fait les autres laboratoires ». Il le juge toutefois « plus faible » que le FRONTIER Act, une proposition de loi concurrente présentée cet été à la Chambre des représentants.

Big news. My take: Anthropic deserves some credit for actually proposing a pretty reasonable AI safety bill; that's more than other frontier labs have done. But they don't deserve *too* much credit, IMO; this bill is weaker than the Trahan-Obernolte FRONTIER Act in some key ways, and since the political momentum has shifted significantly in the direction of safety since FRONTIER was introduced back in July, I think new bills introduced today should ideally go further than FRONTIER was able to go rather than regressing. To be fair to Anthropic, the main places where this bill is significantly weaker than FRONTIER are (a) rulemaking (very strong in FRONTIER, almost nonexistent in Anthropic's bill) and (b) the emergency shutdown authority. Even if you take safety seriously, it might make some sense to dial those authorities back if you didn't trust the executive branch to wield them responsibly, because those are the easiest provisions for a hypothetical President who hypothetically might not like a certain frontier AI company to abuse. There are some improvements over FRONTIER as well; for instance, this bill does specify that auditors are employed on a continuing basis and has better provisions regarding auditor access to information. Happy to see that from Anthropic (although I think their access provision is still a little undercooked and has Fourth Amendment problems). Overall, I think the embedded auditor bills that get introduced in the coming months are going to be significantly better and more ambitious than this, and I hope Anthropic supports those bills instead of opposing anything that treats catastrophic risks like the serious national security issue they are. Still, it's encouraging to see a frontier lab come this far.

— Charlie Bullock (@CharlieBull0ck) October 16, 2026