‘죄수의 딜레마’ 놓인 AI···“동시에 개발 속도 늦춰야 하지만, 경쟁자 못 믿어”

다리오 아모데이 앤트로픽 최고경영자(CEO·왼쪽)과 샘 올트먼 오픈AI CEO(오른쪽).

다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일(현지시간) “인공지능(AI) 모델의 역량을 향상시키는 속도를 늦춰야 한다”고 주장했다. 그는 AI의 자기 학습 능력으로 개발에 가속도가 붙으면서 “사람이 AI 시스템을 이해하고 통제할 수 있는 능력을 상실할 수 있다”고 경고했다.

하지만 그는 그 위험을 줄이기 위해 자신이 할 수 있는 한 가지 조치, 즉 앤트로픽의 연구·개발 속도를 늦추겠다고는 말하지 않았다.

월스트리트저널(WSJ)은 13일 이 같은 사실을 지적하면서 “전형적인 ‘죄수의 딜레마’”라고 표현했다. ‘죄수의 딜레마’란 따로 갇힌 죄수들이 상대의 배신을 염려해 자신과 상대방 모두에게 나쁜 결과를 초래하는 선택을 하는 상황을 지칭한다.

만약 앤트로픽의 경쟁자인 오픈AI를 비롯해 xAI, 구글 딥마인드 등 모든 AI 업계가 개발 속도를 늦추는 데 합의한다면, 인류는 안전성을 확보할 시간을 벌 수 있게 된다. 하지만 앤트로픽이 개발 속도를 늦췄는데도 오픈AI가 멈추지 않으면 앤트로픽은 바로 오픈AI에 뒤처지게 될 수밖에 없다.

AI 업계에 걸려 있는 천문학적인 투자금도 속도 조절 합의 도달을 어렵게 만드는 요인 중 하나다. 모델 훈련과 데이터센터 비용을 감당하기 위해 막대한 규모의 외부 투자금을 끌어들여 경쟁하는 구조 속에서 누구도 자발적으로 먼저 속도를 늦추려 하지 않을 가능성이 크다. 심지어 앤트로픽은 이르면 10월 중 상장을 통해 1000억 달러의 자금 조달 계획을 세워놓고 있다.

결국 개발을 잠시 중단하는 것이 모두에게 이익이라는 걸 알면서도, 누군가 배신하고 개발을 계속할 것이란 두려움 때문에 멈출 수 없게 되는 ‘죄수의 딜레마’ 상황이다. 아모데이 CEO의 ‘속도 조절론’에 샘 올트먼 오픈AI CEO, 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 의장 등이 모두 호응하는 뜻을 밝혔지만 실행에 옮겨지기 쉽지 않아 보이는 이유다.

AI 기업들이 스스로 개발 속도를 늦추는 것이 어렵다면, 정부가 규제를 통해 모두 개발을 잠시 중단하도록 강제하는 것은 어떨까. 문제는 AI판 ‘죄수의 딜레마’는 AI 패권 경쟁을 벌이고 있는 미·중 관계에도 똑같이 적용된다는 데 있다.

뉴욕타임스(NYT)는 AI가 21세기 최우선 국가 안보 문제로 떠오른 만큼 개발 속도 제한은 양국 모두에게 이득일 것이라고 내다봤다. 그러나 “상대방이 그러한 합의를 준수할지 확신할 수 없는 데다, 핵무기 통제와 달리 AI 기술 규제 준수 여부는 사실상 검증이 어려울 것”이라면서 협상에 실패할 가능성이 크다고 지적했다.

이런 상황에서 도널드 트럼프 행정부와 공화당 일각에선 AI 개발 속도 조절을 주문하는 목소리를 향해 “중국에 AI 기술 주도권을 넘겨주려는 조직적인 움직임에 가담한 것”이라는 음모론까지 제기하고 있다.

아모데이 CEO은 이날 방영된 CBS 인터뷰에서 “미국과 중국 AI 기업 간의 경쟁이 AI 개발 속도에 제한을 두는 데 있어 가장 어려운 딜레마”라고 말했다. 그는 “이달 말 미·중 정상회담에서 양측이 AI를 이용한 생물학 무기 개발 금지에 합의하길 바란다”면서 “양국이 장기적인 관점에서 AI 개발 속도에 제한을 두기 위해 협력하길 바라지만, 솔직히 말해 가능할지 모르겠다”고 말했다.