세계 22개국 “AI 통제, 국제기구 필요” 선언 채택…미·중은 명단서 빠져

지난 17일(현지시간) 미국 캘리포니아 시청 앞에서 열린 ‘인공지능(AI)경쟁 중단’ 시위에서 참가자들이 구호를 외치고 있다. APF연합뉴스

유럽과 아프리카 등 세계 약 22개국이 “인공지능(AI)은 인간의 지휘·감독·통제하에 있어야 한다”는 내용의 선언문을 채택했다.

핀란드·노르웨이·독일·캐나다·호주·남아프리카공화국·케냐 등 22개국은 21일(현지시간) 전 세계적인 AI 감독 체제 구축이 필요하다는 취지의 선언문을 채택했다고 미 정치전문 매체 폴리티코가 보도했다.

이번 선언은 미국 뉴욕에서 열리는 제81차 유엔 총회 고위급 회기를 계기로 마련됐으며, 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 백악관에서 할 정상회담을 앞두고 채택됐다.

이들은 선언문에서 “프런티어 AI 모델의 급속한 발전은 적절하게 관리되지 않으면 안전과 안보에 심각한 위험을 초래할 수 있다”며 “최근 우리는 고도화된 AI 시스템이 테스트 과정의 안전장치를 우회하고 취약점을 악용하며 현실 세계의 시스템에 무단으로 접근하는 사례를 목격했다”고 경고했다.

이어 이들은 “AI 잠재력을 실현하기 위해서는 산업계와 정부, 시민사회가 지금 행동해야 한다”며 “AI의 혜택에 대한 국가 간 격차를 확대하지 않으면서 이러한 위험에 대응하고 감독을 강화해야 한다”고 강조했다.

그러면서 AI 기업에 안전성 테스트 및 독립적 평가 등 투명하고 안전한 절차 마련을 촉구했다. 또 각국이 중대한 AI 안전사고에 대한 정보를 철저히 공유하고 AI 관련 국제기구를 설립해 기준 마련과 검증, 비상 상황 시 각국 소집 등의 임무를 수행해야 한다고 말했다.

알렉산데르 스투브 핀란드 대통령은 폴리티코 인터뷰에서 “중국과 미국 모두 어떤 형태로든 안전장치를 갖는 것이 이익이 되리라 생각한다”며 “우리의 메시지는 인간 개입이 필요하며 인간이 주도권을 가져야 한다는 것”이라고 말했다.