AI 강제로 멈추는 비상 버튼, ‘킬 스위치’ 논쟁…실제로 가능할까

AFP연합뉴스

“AI를 강제로 멈출 수 있는 비상 버튼이 필요하다.” “AI를 멈추려다 오히려 더 큰 피해로 이어질 수 있다.”

‘통제받지 않는’ 인공지능(AI)을 둘러싼 논란이 커지면서 ‘킬 스위치(Kill Switch)’ 개념이 각국 정치권과 산업계에서 쟁점으로 부상하고 있다. 킬 스위치는 시스템 오작동 시 강제 차단하는 조치를 뜻하는데, AI에 대해서도 비정상적이거나 극도로 위험한 상황이 초래될 경우 인간이 AI를 강제로 종료할 수 있어야 한다는 주장을 담고 있다.

킬 스위치 도입을 지지하는 쪽에서는 사이버 보안 및 국가안보 위협 등 긴급 상황에 대처하기 위해선 ‘비상 버튼’이 필요하다는 주장을 내세운다. 반면 AI 전면 차단이 기술적으로 가능하지 않고 전력·금융 등 여타 시스템 전반에까지 파급효과를 미칠 수 있다는 지적도 나온다.

킬 스위치 관련 논의가 가장 활발한 곳은 미 정치권이다. 미 하원에 지난 6월 발의된 일명 ‘킬 스위치 법안’은 문제가 발생할 경우 정부가 AI의 작동 중단이나 기능 제한을 요구할 수 있는 권한을 부여하고, AI 기업에도 차단 장치를 갖추도록 하고 있다. 2028 미국 대선의 민주당 ‘잠룡’으로 거론되는 개빈 뉴섬 캘리포니아 주지사는 AI 모델이 오작동하거나 위험 행동을 할 때 즉각 구동을 멈출 수 있는 ‘킬 스위치’ 도입 의무화를 검토하는 내용을 담은 행정명령에 지난 18일 서명하기도 했다. 최근 ‘AI 속도조절론’을 띄운 앤트로픽의 공동 창업자인 잭 클라크도 킬 스위치 의무화를 검토할 것을 제안했다. 클라크는 BBC 인터뷰에서 “기업에 킬 스위치를 의무화하고 제3자가 검증하게 할 것인지에 대해 사회가 결국 규칙을 만들고 싶어할 수 있다”고 말했다.

실제 킬 스위치와 같은 조치를 만드는 과정은 복잡하다는 지적이 나온다. AI가 작동하는 수많은 서버는 물론 클라우드 등에서까지 차단 효과가 나타나도록 해야 하기 때문이다. AI를 멈추는 기준이나 차단 범위를 어떻게 설정할 지도 쟁점이 될 수 있다.

특히 국제적 차원에서 실현 가능성이 낮다는 지적이 나온다. AI 차단조치가 효과를 발휘하려면 개별 국가나 기업 차원을 넘어 거대 기술기업과 미국·중국 등 핵심 행위자가 두루 참여해야 한다. 하지만 AI 관련 국제 규범이나 협의 틀조차 부재한 상황에서 킬 스위치에 관한 국제적 합의가 도출될 지는 미지수다.

영국 정부는 국가안보 위기 등 긴급 상황에서 AI 시스템을 차단하는 내용의 법안에 대해 반대 입장을 표명했다. BBC는 지난 11일 영국 내각부 대변인이 “영국 내에서 AI 모델 접근을 차단하더라도 다른 곳에서 모델이 개발 또는 남용되는 것은 막지 못할 것”이라고 말했다고 보도했다. 영국 의회에 발의된 ‘사이버 안보와 회복력 법안’ 수정안은 “필수 안전망을 구축하고 핵심 국가 인프라를 훼손하기 전 폭주하는 시스템을 막을 수 있도록” 비상 시 강력한 AI 시스템을 차단하고 AI 데이터센터를 폐쇄하는 내용을 담고 있다.

대니얼 코코타즐로 전 오픈AI 연구원은 BBC에 “비상 상황에서 AI 모델 접근을 차단하는 것이 당신을 보호하지는 못한다”며 “여전히 미국에서 만들어진 초지능”의 영향력 하에 놓일 것이라고 말했다. 코코타즐로는 지난해 AI로 인해 2030년대 중반 인류가 멸종될 수 있다고 주장하는 내용의 보고서 ‘AI2027’를 펴내기도 했다.

AI 후발 국가들에게는 ‘킬 스위치’를 비롯한 AI 통제권을 누가 갖느냐가 쟁점이 될 수 있다. 지난 6월 미 상무부의 앤트로픽의 최첨단 모델 ‘미토스5’에 대한 수출통제 조치는 강대국이 AI 모델을 ‘전략자산화’하는 흐름이 본격화할 수 있다는 경각심을 불러일으켰다. 이후 중국 정부도 첨단 AI 모델에 대한 해외 접근 제한 방안을 논의했다. 이에 각국이 안보와 ‘AI 주권’ 차원에서 소버린 AI 역량을 확보해야 한다는 주장도 제기되고 있다.

국방AI 개발에 참여하고 있는 네이버클라우드의 유경범 국방사업 총괄 전무는 지난 18일 한 세미나에서 전장 환경에서 비상 전원 장치 격인 ‘킬 스위치’를 타국 사업자가 가지는 것에 우려를 표하면서 “안보나 경제처럼 중요한 영역에서는 소버린 AI 역량을 갖춰야 할 필요성이 커지고 있다”고 말했다.