미·러, ‘킬러 AI’ 규제장치 잇따라 삭제···“인간 통제 없는 살상 우려”

지난달 16일(현지시간) 우크라이나의 FP-1 장거리 공격 무인기(드론)가 비행하고 있다. AP연합뉴스

미국과 러시아가 인공지능(AI) 자율살상무기를 규제하기 위한 유엔 협상에서 핵심 안전장치를 잇달아 삭제한 것으로 드러났다. AI가 전장에서 표적을 찾고 공격 대상을 골라내는 시대가 왔지만, 이를 통제할 국제 규범을 만드는 과정에서는 정작 강대국들이 규제의 고삐를 풀고 있다는 지적이 나온다.

“인간이 최종 검토” 조항까지 삭제한 미·러

워싱턴포스트(WP)는 26일(현지시간) 협상 내용을 잘 아는 관계자 3명과 협상 문서를 토대로 지난 9월 초 스위스 제네바에서 열린 자율살상무기 관련 협상에서 미국과 러시아가 막판에 주요 규제 문구를 삭제했다고 보도했다. 이번 협상은 AI가 표적을 식별하고 공격하는 자율무기를 국제적으로 규율하기 위한 것으로, 향후 법적 구속력이 있는 조약으로 이어질 가능성이 있는 국제 논의다.

WP에 따르면 협상 마지막 날 미국과 러시아 대표단은 약 15시간 동안 문안을 집중적으로 수정했다. 이 과정에서 AI 무기가 ‘예측할 수 있고 신뢰할 수 있는 방식으로 작동해야 한다’는 조항이 삭제됐다.

무기 사용 과정에서 윤리적 고려를 해야 한다는 내용도 빠졌다. 특히 AI가 선정한 군사 표적을 실제로 공격하기 전에 인간이 이를 검토해야 한다는 조항도 사라졌다.

지난 23일(현지시간) 우크라이나 수도 키이우에서 러시아의 드론 공격으로 숨진 희생자의 시신이 놓여 있다. AP연합뉴스

협상 막판에는 유엔 카메라가 꺼지고 시민사회 참관인들도 퇴장한 가운데 미국과 러시아가 각각 변호사 등 법률 전문가 약 10명을 투입해 문안을 대대적으로 손질한 것으로 알려졌다. 다른 국가 대표단보다 훨씬 큰 법률팀을 동원하면서 문구가 빠르게 바뀌어 소규모 대표단이 이를 따라가기 어려웠다는 증언도 나왔다. 한 협상 관계자는 막판 문안 수정 과정에 대해 “조금씩 잘라내 결국 죽이는 것과 같았다같았다”라고 표현했다.

현재 협상은 아직 법적 구속력이 없는 단계다. 각국은 오는 11월 협상을 공식적인 협상 권한을 부여받은 절차로 발전시킬지, 나아가 법적 구속력이 있는 조약으로 이어갈지를 논의할 예정이다.

국제 비정부기구 연합체 ‘킬러 로봇 저지’의 니콜 반 루이옌 사무총장은 미국과 러시아가 자율무기 규제를 둘러싼 협상에서 지나치게 큰 영향력을 행사하고 있다고 지적했다. 수십 개국이 합의해야 하는 협상에서 두 나라가 정치적 영향력을 이용해 다른 국가에 압력을 행사할 수 있다는 것이다.

AI는 이미 전쟁터로···국제 규범은 뒷걸음

지난 11일(현지시간) 레바논 남부 하니예 마을에 이스라엘 드론이 만수리 마을의 가옥들에 투하될 폭발물 상자를 싣고 가고 있다. AP연합뉴스

AI를 이용해 표적을 식별하는 기술은 이미 실제 전쟁에 활용되고 있다. WP에 따르면 미군은 이란과의 전쟁 첫 24시간 동안 엔트로픽의 챗봇을 활용해 약 1000곳의 공격 대상을 식별했다. 이스라엘군도 가자지구 군사작전에서 AI를 광범위하게 활용해온 것으로 알려졌다.

AI가 공격 대상을 식별하고 인간이 이를 검토하는 군사 체계가 현실화하면서, 인간이 살상 결정에 대한 최종 통제권을 갖도록 국제적 기준을 마련해야 한다는 요구도 커지고 있다. 규제가 약해지면 AI의 판단에 따라 인간의 생사에 관한 결정이 내려질 수 있고, 민간인 피해가 발생했을 때 책임 소재가 불분명해질 수 있기 때문이다.

이런 상황에서 미국은 국내 군사 지침도 손질하고 있다. 도널드 트럼프 대통령은 지난 6월 국가안보 각서를 통해 국방부에 자율·반자율 무기 사용 지침을 90일 안에 개정하도록 지시했다. 백악관은 AI의 신속한 군사적 도입과 활용을 위해 관련 지침을 업데이트해야 한다고 밝혔다. 기존 지침은 자율·반자율 무기 사용 과정에서 인간의 판단을 활용하고 전쟁법과 관련 조약을 준수하도록 하는 내용을 담고 있었다. 이번 개정안은 아직 공개되지 않았다.

앞서 트럼프 대통령은 지난 22일 유엔 연설에서도 “미국은 현재 많이 거론되는 AI, 이른바 ‘초지능’을 통제하기 위한 세계주의적 계획을 수립하려는 모든 시도를 전적으로 거부한다”고 말했다.

국제 인권 감시 단체 휴먼라이츠워치는 미국과 러시아가 자율무기에 대한 국제 규정을 약화할 수 있는 외교적 역량과 법률팀, 정치적 동기가 있다고 지적했다. 이 단체 관계자는 WP에 “미국이 군사적·기술적 우위를 유지하려 할 때 법적 구속력이 있는 규칙보다 자발적 지침을 내세우는 전략을 사이버와 우주 등 군비 통제 논의에서도 반복해왔다”며 “자율무기도 예외는 아니다”라고 말했다.