이란 미나브 초등학교 오폭 참사에도 AI가 있었다

지난 7일(현지시간)이란 남부 미나브에 있는 샤자레 타이예베 초등학교에서 미국의 지난 2월28일 공습으로 희생된 아이들과 교사들의 초상화를 한 여성과 아이가 바라보고 있다. AP연합뉴스

지난 2월28일 미국·이란 전쟁 발발 직후 이란 남부 미나브의 샤자레 타이예베 초등학교에서 최소 123명의 어린이를 숨지게 한 오폭 참사에서도 군사 인공지능(AI)가 개입한 것으로 나타났다. 최첨단 AI 기술은 오폭의 직접적 원인이 된 부실 정보를 걸러내지도, 유례를 찾기 힘든 아동 대상 참극을 막지도 못했다. 표적 탐지부터 공습까지, 이른바 킬 체인(kill chain)의 결정 속도는 비약적으로 빨라졌지만 결정의 책임 소재는 AI 알고리즘 뒤에서 뭉개졌다.

미 국방부 내부 조사에 관여한 20여명의 관계자들은 기초 정보의 공백, 민간인 피해 방지 기능 감축과 더불어 ‘AI 기술에 대한 과도한 의존’이 겹쳐 미나브 초등학교 오폭 참사로 이어진 사실을 증언했다고 19일(현지시간) 블룸버그통신이 보도했다. 이들은 오폭이 참사를 막을 여러 차례의 기회를 놓친 실수가 쌓인 결과였다고 진술했다.

특히 미 중부사령부(CENTCOM) 작전 담당자 일부가 AI 군사기술의 한 종류인 ‘메이븐 스마트 시스템’(메이븐)에 지나치게 의존했던 것으로 전해졌다. 메이븐은 미국 AI 기업 팔란티어가 개발한 AI 기반 소프트웨어로 150개 이상의 군사 데이터를 통합해 표적 설정부터 지휘 통제에 이르는 복잡한 군사작전을 확인·조정하는 프로그램이다.

작전 담당자들은 메이븐이 기한이 지나 보완이 필요한 정보나 상호 충돌하는 정보들이 있으면 이를 통보해줄 것이라 기대했다고 한다. 10여년 전 이란 이슬람혁명수비대(IRGC) 부대 터에 세워진 초등학교를 이후 위성사진이나 영상에서 파악되는 시설 변화, 민간 활동 증가의 흔적 등으로 파악할 수 있지 않았냐는 것이다. 샤자레 타이예베 초등학교는 자체 웹사이트도 있었고 구글 지도에도 학교로 표시돼 있었다.

미나브 오폭 참사 이후 팔란티어는 메이븐에 기초 정보를 재검토해 표적 제외 요인을 찾고, 검토 과정에서 놓칠 수 있는 충돌 지점이나 모순을 표시하는 기능을 추가했다. 미나브 참사 이전에는 오폭을 걸러낼 검토 기능이 없었다는 뜻이다. 메이븐 알고리즘을 포함해 이번 공습 결정 과정에서 제기된 ‘표적은 합법적인가’ ‘정보는 충분한가’ ‘민간인 피해를 최소화할 예방조치를 취했는가’라는 질문에 대한 답은 모두 “그렇다”였다고 블룸버그는 전했다.

의사결정은 신속했다. 블룸버그는 원래 정보분석관·영상전문가·법률가·작전지휘관 등이 참여해 수 시간여에 걸쳐 작성하던 표적 목록이 이번 이란 공습 직전에는 메이븐을 통해 상당 부분이 수 분 내에 처리됐다고 전했다. 이 과정에서 초등학교 시설이 갱신되지 않은 위성사진이 사용된 점이나 민간인 피해 방지 검토가 이뤄지지 않은 점 등은 반영되지 않았다.

책임은 밝혀지지 않고 있다. 지난 3월 미 국방부가 시작한 조사 보고서는 아직 공개되지 않았다. 유엔 이란 독립국제진상조사단은 최근 미나브 초등학교 오폭 참사가 ‘무차별 공격에 의한 전쟁범죄’라 믿을 합리적 근거가 있다는 내용의 보고서를 공개했다.

전쟁의 문턱을 크게 낮추는 AI 군사기술의 위험성도 드러났다. 미국 CNN은 미군이 AI가 잘못 만들어낸 보고서로 중국 선박을 대상으로 한 군사 작전을 준비했다가 실행 직전 중단했다고 18일 보도했다. 중국 선박이 중동에서 핵무기 개발 부품을 운반하고 있다는 취지의 보고서였다.

무장 병력이 승선을 기다리고 군용기가 출격하는 등 군사 작전이 개시될 직전 상황에서 해당 보고서가 “완전한 거짓”으로 드러나면서 작전이 중단됐다. 한 소식통은 CNN에 “하마터면 전쟁을 일으킬 뻔했다”고 말했다.

중국 선박 사례와 미나브 초등학교 오폭 참사는 군사기술과 AI를 접목했을 때 발생할 수 있는 ‘초고속 확전’의 위험을 단적으로 드러낸다. 군사 작전의 정확성, 예측 가능성, 신속성을 높이려는 목적으로 도입된 AI 기술이 자동화된 전쟁, 인간성을 몰각한 살상으로 이어질 수 있다는 점이 확인된 것이다. CNN은 “AI나 기타 자동화 시스템이 만든 부정확한 정보가 재앙적인 결정으로 이어질 수 있다는 위험이 확인된 것”이라고 평가했다.