IA : l’ONU appelle les États et les entreprises "à se mobiliser de toute urgence" face à des "risques sans précédent"

"J’appelle les États et les entreprises à se mobiliser de toute urgence dans le cadre d’instances multilatérales pour définir une voie d’action visant à encadrer les modèles d’IA de pointe", a indiqué Volker Türk dans une déclaration, avertissant que "tous les droits humains sont menacés" par cette technologie, y compris les droits à la vie et à l’alimentation, à la vie privée, à la santé et à la sécurité.

"Nous sommes à l’aube d’un changement irréversible qui nous concerne non seulement nous, mais aussi les générations futures de l’humanité", a-t-il ajouté, déplorant qu’actuellement "nous dépendons presque entièrement d’un petit nombre d’entreprises puissantes pour opérer les bons choix en matière de développement de l’IA pour l’ensemble de l’humanité".

Les inquiétudes vont croissant autour des conséquences de l’essor rapide de l’IA sur l’avenir de l’humanité.

Des patrons américains du secteur technologique ont eux-mêmes plaidé pour un ralentissement des avancées dans le domaine.

Samedi, le patron d’Anthropic, Dario Amodei, s’est exprimé en faveur d’une décélération, afin de permettre de mieux appréhender les risques découlant des nouvelles capacités de l’IA. Il a été soutenu publiquement par son homologue d’OpenAI, Sam Altman, ainsi que par Elon Musk.

Donald Trump et plusieurs figures de son camp se sont dits opposés dimanche à un ralentissement de l’IA, devenu un des sujets phares de la campagne des législatives de mi-mandat aux Etats-Unis.

Quels risques ?

Selon le Haut-Commissaire, "la course actuelle vers une IA toujours plus puissante marque un changement radical, exposant tous les aspects de nos vies à des risques existentiels accrus".

"Des défaillances impliquant des systèmes d’IA agentique", des interfaces capables d’effectuer des tâches de façon autonome, "pourraient paralyser des services essentiels, interrompre les communications, déstabiliser des infrastructures critiques et porter atteinte au cœur même des institutions démocratiques", a alerté Volker Türk.

"Des populations entières pourraient se retrouver privées d’eau potable, de chauffage et de services financiers. L’IA agentique accélère déjà le rythme et l’ampleur des conflits armés, tout en érodant les garde-fous qui nous séparent du lancement d’armes de destruction massive", a-t-il encore averti.