Permis de tuer pour les robots ? L'ONU s'écharpe sur la question

Faut-il interdire aux machines de décider seules de tuer ? La question sera débattue la semaine prochaine à l'ONU, où une majorité d'États est favorable à des règles contraignantes face à une poignée de pays qui s'y opposent, dont les États-Unis.
En plein essor, les systèmes d'armes autonomes (SALA), surnommés "robots tueurs", choisissent et attaquent leurs cibles sans contrôle humain.
"La nécessité de réglementer les armes autonomes a pris une nouvelle urgence" avec les "développements dans l'intelligence artificielle", lesquels ont montré que des agents IA pouvaient outrepasser leurs prérogatives, explique Laurent Gisel, chef de l'Unité Armes et Conduite des hostilités au CICR.
La campagne "Stop Killer Robots", coalition mondiale de plus de 300 organisations, réclame depuis 2013 la mise en place de règles contraignantes, alors que des technologies permettant d'automatiser certaines fonctions militaires sont déjà utilisées sur les champs de bataille, notamment en Ukraine et au Moyen-Orient.
Les systèmes d'armes autonomes étant relativement peu coûteux à produire, ils peuvent proliférer rapidement, prévient Stop Killer Robots.
Pour beaucoup, ces technologies suscitent de vives inquiétudes, notamment sur les risques de frappes sans discernement, l'absence de responsabilité humaine et le respect des règles de la guerre.
"Question de vie ou de mort"
La technologie est "imparfaite et fait des erreurs, ce que nous sommes prêts à tolérer dans notre vie civile quotidienne. Mais sur le champ de bataille, une erreur peut être une question de vie ou de mort", souligne Mary Wareham, de l'ONG Human Rights Watch.
La semaine prochaine à Genève, la septième conférence d'examen de la Convention sur certaines armes classiques (CCAC) réunira ses 128 États parties pour décider, par consensus, de l'ouverture de négociations en vue d'un instrument juridiquement contraignant, un accord qui s'annonce difficile à obtenir.
Début septembre, le Brésil, au nom de 47 États, et l'Algérie, au nom des pays africains, ont lancé un appel en faveur de règles contraignantes. Le 22 octobre, 50 pays, dont la France, ont à leur tour jugé "urgent" d'instaurer un contrôle humain sur l'usage de la force.
Le 29 octobre, 163 États ont adopté une résolution à l'Assemblée générale de l'ONU appelant également à négocier des règles sur les armes autonomes. Cinq pays ont voté contre (États-Unis, Russie, Israël, Corée du Nord et Bélarus) et neuf se sont abstenus, dont l'Iran, la Chine et l'Arabie saoudite.
La Chine maintient "une ambiguïté savamment entretenue, puisqu'elle se dit favorable à un instrument juridiquement contraignant lorsque les conditions seront mûres", relève Laure de Roucy-Rochegonde, de l'Institut français des relations internationales (Ifri).
En parallèle, Washington a proposé début octobre un processus de cinq ans pour élaborer un instrument non contraignant, là où les ONG et le CICR plaident pour un calendrier d'un an.
La Russie a de son côté engagé une bataille procédurale pour empêcher l'UE de dénoncer la guerre en Ukraine pendant la conférence à Genève, au risque d'entraver sa tenue.
Un miracle ?
En 2023, le secrétaire général de l'ONU, Antonio Guterres, et la présidente du CICR, Mirjana Spoljaric Egger, avaient appelé les États à interdire les armes autonomes avant 2026. Le pape Léon XIV réclame aussi leur interdiction.
Le CICR appelle à bannir deux catégories d'armes autonomes : celles dont les effets échappent à toute prévision ou à tout contrôle adéquat, soit les "armes autonomes imprévisibles", ainsi que celles conçues ou utilisées pour viser directement des êtres humains, qualifiées d'"armes autonomes antipersonnel".
Pour la haute représentante de l'ONU pour le désarmement, Izumi Nakamitsu, il est urgent d'encadrer l'IA militaire afin d'éviter un "impact tout à fait imprévisible sur la race humaine".
"Le fait que des machines puissent décider de prendre une vie humaine est tout simplement moralement répugnant", dit-elle.
Pour Beatrice Fihn, ancienne directrice d'ICAN, la Campagne internationale pour l'abolition des armes nucléaires, récompensée par le Nobel de la paix, et aujourd'hui engagée pour la régulation des armes autonomes, un "miracle" serait toutefois nécessaire pour que les États s'accordent à Genève sur l'ouverture de négociations en vue d'un accord contraignant.
Les ONG évoquent une autre voie : saisir l'Assemblée générale de l'ONU, où les décisions sont prises à la majorité.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.