À l'ONU, grands patrons et dirigeants mondiaux veulent mieux contrôler le développement de l'IA

L’IA est l'enjeu de sécurité le plus important auquel le monde est confronté aujourd’hui. C'est en tout cas ce que pensent les patrons des principales entreprises d’intelligence artificielle basées aux États-Unis. Les PDG d’OpenAI, Anthropic et Hugging Face ont appelé le Conseil de sécurité de l'ONU à la vigilance et à la coopération internationale et la mise en place de garde-fous. 

Publié le : 24/09/2026 - 08:34

4 min Temps de lecture

Il est très rare que des entrepreneurs américains se limitent. Mais deux risques demeurent trop importants avec l’intelligence artificielle. Si les modèles IA sont détournés par des bioterroristes d’abord, si les développeurs perdent le contrôle de leur technologie ensuite. Gérer des risques catastrophiques, c’est la mission du Conseil de sécurité. Alors, convaincu comme ses homologues d’OpenAI et de Hugging Face qu’une coopération internationale est indispensable, le PDG d’Anthropic Dario Amodei est venu proposer des pistes aux géants du secteur, rapporte notre correspondante à New York, Carrie Nooten. 

« Premièrement, nous devrions commencer par des accords ciblés que tous les membres peuvent soutenir, tels que l'interdiction d'utiliser l'IA pour concevoir des armes biologiques, a commencé à lister le patron de l'entreprise à l'origine du modèle IA Claude. Deuxièmement, nous devrions mettre en place des systèmes d'évaluation et de vérification capables de suivre le rythme du développement de l'IA, afin que les États puissent avoir une visibilité sur les capacités des modèles de pointe et vérifier le respect des engagements de chacun. Troisièmement, nous devrions établir des normes mondiales communes pour tester les modèles d'IA quant aux risques de perte de contrôle et de détournement, ainsi qu'un système de notification pour les incidents liés à l'IA ayant des répercussions significatives sur la sécurité mondiale », a-t-il conclu.

À lire aussiL’intelligence artificielle au cœur de la guerre : une vertigineuse course aux armements

Déjà plusieurs incidents cet été

Il n'a pas été le seul à prendre la parole en ce sens, au cœur de cette réunion du Conseil de sécurité, initiée par la France, dans un contexte de montée des inquiétudes autour de la trajectoire de l'intelligence artificielle. L'évolution actuelle de l'IA « nécessite une attention extrême », a prévenu le patron d'OpenAI Sam Altman, pour qui l'automatisation progressive de son développement est un facteur de risques supplémentaires.

Depuis le début de l'été, OpenAI et Anthropic ont rapporté plusieurs incidents liés à leurs modèles les plus avancés, qui se sont écartés des objectifs fixés par leurs développeurs, ont triché, cherché à mentir et à dissimuler leurs actions. Un agent autonome d'OpenAI a par exemple infiltré un site internet gouvernemental australien en juin et a accédé à des fichiers publics et non publics du service de statistiques de la santé. Le plus sérieux dérapage a vu deux IA d'OpenAI sortir de leur milieu confiné lors de tests pour se rendre sur Internet et faire intrusion sur Hugging Face, une plateforme de stockage de modèles d'intelligence artificielle.

Par ailleurs, plusieurs professionnels du secteur ont alerté sur la menace que fait peser, selon eux, l'IA sur l'avenir de l'humanité. « Nous ne voulons pas tomber dans le piège de l'optimisme aveugle, mais nous ne pouvons pas céder non plus au catastrophisme », a fait valoir Sam Altman, appelant à « trouver un juste milieu », et soulignant le besoin de coopération internationale sur le sujet.

À lire aussiAssemblée générale de l’ONU: des pays appellent à la protection des enfants face aux dangers de l'IA

Un front international freiné par Donald Trump

Lundi, les dirigeants de plus de 20 pays dont le Canada, l'Allemagne et l'Australie avaient plaidé pour davantage de supervision et pour la possible création, sous l'égide de l'ONU, d'un organe international de régulation. Mardi, le Premier ministre britannique Andy Burnham a dit vouloir initier l'élaboration de standards de sécurité de l'IA sous l'égide du G20 lors de la présidence du Royaume-Uni en 2027.

Les efforts diplomatiques d'harmonisation pourraient néanmoins se heurter à la posture des États-Unis, opposés à toute forme de supervision supranationale. Donald Trump a déjà rejeté l’idée d’une supervision supranationale. L’ambassadeur chinois, lui, a soutenu l’idée et voit tout cela sous l’égide de l’ONU. Dans l'attente d'avancées sur le front diplomatique, plusieurs mastodontes du secteur cherchent à faire évoluer leurs mécanismes de gestion des risques. Lors de son intervention devant le Conseil de sécurité, Dario Amodei a promis qu'Anthropic allait « ralentir autant que nécessaire » le rythme de développement de son intelligence artificielle « pour s'assurer » que chaque nouveau modèle commercialisé soit « vraiment sûr ».

Pour afficher ce contenu , il est nécessaire d'autoriser les cookies de mesure d'audience et de publicité.