« Aucun assureur ne pourrait suivre » : l'aveu inquiétant du géant de l'IA Anthropic avant son entrée en bourse

Les voix se multiplient pour dénoncer les dangers bien réels de l'intelligence artificielle. Par exemple, Geoffrey Hinton, un des parrains de l'IA, estime à 10 % le risque qu'elle anéantisse l’humanité dans les 10 prochaines années. Et il est loin d'être le seul à tirer la sonnette d'alarme. Nous avons aussi des cas plus concrets où, loin d'être une menace existentielle pour les humains, l'utilisation de l'IA pourrait avoir des répercussions à grande échelle. Citons par exemple les récentes failles dans PHP découvertes avec l'aide de ChatGPT affectant 70 % du Web.

Voir des personnes dénoncer les nouvelles technologies n'a rien de nouveau. En revanche, lorsque les avertissements proviennent de ceux qui les construisent, cela change complètement la donne. Et Anthropic, le créateur de Claude, nous apprend que les conséquences d'un évènement catastrophique lié à l'intelligence artificielle pourraient être telles que toutes les assurances du monde ne suffiraient pas à les couvrir !

Anthropic has filed an S-1 registration statement with the SEC related to its proposed IPO.

Read more: https://t.co/zuRMrxXzNx

Legal disclaimer: A registration statement relating to these securities has been filed with the SEC but has not yet become effective. These securities…

— Anthropic (@AnthropicAI) October 26, 2026

95 pages consacrées aux dangers posés par l’IA

Anthropic prépare son entrée imminente en bourse et vient de publier son formulaire S-1, un document d'enregistrement obligatoire. Celui-ci détaille sur 95 pages les nombreux risques liés à l'IA, comme les utilisations abusives, notamment pour mener des cyberattaques, les modèles désalignés, la perte de contrôle des modèles autonomes, etc. Le document mentionne aussi l'utilisation de l'IA pour créer des armes chimiques ou biologiques. La liste de catastrophes continue avec le risque que l'IA efface des données, modifie du code ou effectue des transactions financières avant que des humains ne puissent l'arrêter. Elle pourrait également blesser des humains en pilotant des robots. Et il ne faudrait pas oublier tous les problèmes engendrés par les hallucinations, ainsi que l'influence que l'IA peut avoir sur la santé mentale des utilisateurs, comme la psychose liée à l'IA.

Peut-on vraiment savoir tout ce qu’une IA est en train de faire, et être certain de pouvoir l’arrêter ?

Les agents d’intelligence artificielle sont au cœur du développement des nouveaux modèles. De plus en plus autonomes, ils sont désormais capables de planifier et d’exécuter des tâches complexes pour atteindre un objectif. Mais cette autonomie croissante soulève une question essentielle : comment s’assurer qu’une IA fait bien ce qu’on lui demande, et rien d’autre ?... Lire la suite

 

La firme ne se contente pas d'énumérer les risques. Elle précise que l'ampleur des dégâts pourrait être colossale. Le coût des dommages pourrait largement dépasser les montants couverts par les polices d'assurance. « Parce que nos modèles peuvent se comporter de manière non voulue par l'utilisateur ou le développeur, les réclamations découlant de telles actions pourraient entraîner une responsabilité financière considérable. De plus, nos polices d'assurance pourraient ne pas offrir une couverture suffisante pour atténuer de façon adéquate les responsabilités potentielles auxquelles nous faisons face, en particulier lorsqu'un incident isolé, ou un groupe d'incidents, cause des dommages disproportionnés », indique le document.

Anthropic a publié 95 pages détaillant les risques associés à ses modèles d’intelligence artificielle. Illustration créée à l'aide d'un outil IA. © Edward Back, Futura

Des IA inassurables ?

« De plus, compte tenu de l'ampleur des dommages qui pourraient résulter d'un incident catastrophique lié à l'IA, aucun assureur individuel, et potentiellement le secteur de l'assurance dans son ensemble, n'est susceptible de disposer de la capacité ou de l'expertise suffisantes pour souscrire une assurance à la hauteur d'un tel niveau d'exposition. » Le document cite quelques précédents, dont l'affaire Bartz contre Anthropic dans laquelle la firme a versé 1,5 milliard de dollars pour avoir utilisé des millions de livres. Une somme qui n'est pas entièrement couverte par son assurance.

Le problème est en partie dû à un manque de fonds. Les montants des dédommagements pourraient être tellement exorbitants que les assureurs ne pourraient pas suivre. Un seul bug de l'IA pourrait affecter des millions ou des milliards de personnes. Mais ils manquent aussi de données sur les risques. L'intelligence artificielle est une nouvelle technologie et les assureurs manquent encore de recul pour évaluer les dommages potentiels et calculer les primes.

Claude Mythos : le modèle d’IA le plus dangereux jamais créé ?

Anthropic pensait garder son modèle le plus avancé hors de portée du public. Pourtant, quelques passionnés ont déjà trouvé un moyen d’y accéder. Et cette intelligence artificielle a déjà montré à quel point elle pourrait être dangereuse entre les mauvaises mains, en découvrant des centaines de failles dans le navigateur Firefox.... Lire la suite

Des conséquences humaines déjà bien réelles

Mais les entreprises d'IA devront aussi de plus en plus faire face aux accusations selon lesquelles leur chatbot aurait été impliqué dans la mort de personnes. Une femme est décédée récemment après avoir suivi les conseils de ChatGPT pour réduire son traitement contre l'épilepsie. Selon Alissa Lugo, analyste chez Gartner, le nombre de morts dans le monde impliquant l'IA pourrait dépasser 2 000 d'ici la fin de l'année.

En révélant ces risques, est-ce que le créateur de Claude joue la transparence, ou est-ce un moyen d'augmenter la valeur de l'entreprise en bourse ? En insistant sur des risques aux conséquences tellement immenses qu'elles ne peuvent pas être assurées, Anthropic tente de convaincre les investisseurs de la puissance de ses modèles. Dans tous les cas, plus l'IA s'immisce dans nos vies, plus ses dysfonctionnements pourraient nous coûter cher.