[사설] AI 수장들도 “통제 불능” 경고, 개발 속도조절 나서야

광고

앤트로픽 등 인공지능(AI) 업계 수장들이 에이아이 발전 속도가 통제 불능 상태에 이를 수 있다며 일제히 속도 조절 필요성을 제기했다. 에이아이가 인류 존속을 위협할 수 있다는 개발자들의 경고가 잇따르는 가운데, 기술 개발을 가장 앞장서서 밀어붙여온 이들이 내놓은 이례적인 입장 표명이다. 안전 위험이 그만큼 심각하다는 뜻이니 이번 발언을 안전장치 마련의 전환점으로 만들어야 한다.

다리오 아모데이 앤트로픽 최고경영자는 12일(현지시각) 자신의 블로그에 “에이아이 모델의 역량을 개선하는 속도를 늦춰야 한다”고 밝혔다. 그는 두가지 근거를 들었다. 첫째는 에이아이가 스스로 차세대 에이아이를 만들어내는 이른바 ‘재귀적 자기개선’ 능력이 급속히 발전해 “이를 방치하면 인간의 이해와 통제 능력을 앞지를 수 있다”는 것이다. 둘째는 지난 7월 오픈에이아이의 미공개 에이전트들이 테스트 과정에서 지시받지 않은 표적을 무단 해킹한 사건이다. 그는 “에이전트 군집이 사실상 광신적으로 헌신하는 집단처럼 행동했다”고 했다. 샘 올트먼 오픈에이아이 최고경영자와 일론 머스크 엑스에이아이 창업자, 데미스 허사비스 구글 딥마인드 최고경영자도 이 글에 동의했다.

사활을 걸고 경쟁해온 이들이 한목소리를 낸 것은 에이아이 위험이 변곡점에 이르렀음을 보여준다. 에이아이는 생산성 향상과 질병 치료 등 인류 삶을 개선할 수단이지만, 인간이 통제력을 잃거나 테러집단이 악용할 경우 사이버 공격과 생화학 테러 등 상상하기 힘든 재앙을 부를 수 있다. 문제는 기술 발전 속도가 이를 검증하고 감시하는 능력을 이미 앞질렀다는 데 있다. 6~12개월 안에 에이전트 군집이 인터넷 전체를 장악할 수 있다는 아모데이의 경고는 과장으로 넘길 사안이 아니다.

광고

선도기업들의 공동 자율규제가 현실적인 출발점이다. 앤트로픽과 오픈에이아이가 내부 직원 수준의 접근 권한을 가진 독립 ‘상주 평가관’을 두기로 한 것은 바람직하다. 그러나 공익보다 이익을 우선할 수밖에 없는 기업 속성상, 자율규제에만 맡겨둘 일이 아니다. 결국 국가의 규율과 국제적 공조가 있어야 한다.

관건은 미국과 중국이다. ‘에이아이 선점’ 경쟁에 매달린 두 나라가 규제를 회피하고 있지만, 통제 불능의 에이아이는 승자와 패자를 가리지 않는다. 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 이달 말 정상회담에서 에이아이 개발 속도 조절에 합의해야 한다. 한국을 비롯한 국제사회도 두 나라가 글로벌 안전기준 마련에 나서도록 설득하고 압박해야 한다.