유엔, ‘군사용 AI’ 위험성 논의 위한 국제포럼 출범한다

스위스 제네바에 있는 유엔 본부 외경. Gettyimages/이매진스

유엔이 인공지능(AI)의 군사적 활용에 따른 위험을 통제하기 위한 국제포럼을 출범한다.

20일(현지시간) AP통신에 따르면 유엔 군축연구소(UNIDIR)는 군사용 AI의 위험성과 통제 방안을 논의하기 위한 첫 국제포럼을 오는 22일 출범할 예정이다.

스위스 제네바에 있는 UNIDIR은 올여름 군사용 AI와 국제 안보 문제를 전담하는 ‘AI·평화·안보 우수센터’를 설립했다. 미국·러시아·중국·영국·프랑스 등 5대 핵보유국이 센터 설립에 필요한 자금을 지원했다.

새로 출범하는 포럼에는 각국 정부와 방산업체, 소프트웨어 개발업체, 시민사회, 학계 전문가 등이 참여해 군사용 AI의 위험을 관리하고 통제하는 방안을 논의할 예정이다. 유엔은 군사용 AI 개발에 참여하는 기업들이 준수할 자율적 행동지침 마련도 추진한다. AI를 활용한 군사 기술이 신뢰성과 예측 가능성을 확보하고 국제법과 인권을 준수하도록 유도한다는 취지다.

최근 군사 분야에서 AI 활용이 빠르게 확대되면서 인간의 통제력이 약화하는 데 대한 우려가 커지고 있다. 특히 지난 2월 미국의 이란 공습 당시 발생한 이란 미나브 초교 오폭 참사에 AI가 관여한 정황이 드러나기도 했다.

로빈 가이스 UNIDIR 소장은 이날 유엔 기자회견에서 “핵무기 분야를 포함해 인간이 판단할 수 있는 여지가 점점 좁아지고 있다”고 경고했다. 그는 AI가 조기경보체계와 정보 수집, 정찰 등 다양한 군사 분야에 빠르게 도입되고 있다면서 “어느 시점에 우리가 실제로 통제력을 잃게 되는지 판단하기가 매우 어렵다”고 지적했다.

가이스 소장은 세계의 AI 주도권 경쟁이 규제 논의의 걸림돌이 되고 있다고 인정하면서도, AI의 위험성에 대한 우려가 지정학적 진영을 넘어 확산하고 있다고 평가했다. 그러면서 지난달 미국과 중국이 국가안보를 위협할 수 있는 AI 관련 문제에 대응하기 위해 안전 경보체계를 구축하자는 제안이 나온 점을 사례로 들었다.

유엔은 무장단체의 AI 오용 위험에 대응하기 위한 별도 논의도 시작할 계획이다. 가이스 소장은 무장단체들이 이미 작전 수립과 실행, 군수 지원 등에 AI를 활용하고 있다며 “군사 영역에서 AI라는 시급한 문제를 더는 그늘에 방치할 수 없다”고 말했다.