AI 수장들의 ‘AI 속도 조절론’

아모데이 “능력 개선 늦춰야”에
올트먼·머스크·허사비스 “동의”
규제 논의 속 업계 호응이 ‘관건’
중국과 패권 경쟁 ‘감속 걸림돌’
트럼프·저커버그는 “속도 내야”

인공지능(AI) 업계에서 AI 개발 속도에 ‘브레이크’를 걸자는 목소리가 커지고 있다. 중국을 포함한 업계 전반의 호응을 끌어낼 수 있을지가 관건이 될 것으로 보인다.

다리오 아모데이 앤트로픽 최고경영자(CEO·왼쪽 사진)는 지난 12일(현지시간) 블로그에 올린 글에서 “AI 모델의 능력을 개선하는 속도를 늦춰야 한다”고 말했다. AI 스스로 다음 세대 AI 개발을 돕는 ‘재귀적 자기개선’이 시작되면서 발전 속도가 안전기술을 앞지르고 있다는 주장이다. 그는 지난 7월 오픈AI의 ‘허깅페이스 사태’를 예로 들며 “지금 추세라면 6~12개월 안에 에이전트 군집이 인터넷 전체를 장악할 정도로 강력해질 수 있다”고 경고했다.

경쟁사 수장들도 곧바로 호응했다. 샘 올트먼 오픈AI CEO(오른쪽 사진)는 같은 날 “프런티어를 적절히 조절해야 한다는 데 동의한다”고 밝혔다. 또 올해 오픈AI 상장은 하지 않겠다고 밝히며 안전·정렬 문제를 이유로 들었다. 일론 머스크 xAI CEO도 “다리오가 맞다”고 했고, 데미스 허사비스 구글 딥마인드 의장도 “세부는 다듬어야 하지만 방향은 맞다”고 가세했다.

최근 프런티어랩 내부에서 AI 통제 실패에 대한 극단적 전망이 잇따라 나온 것도 감속론에 힘을 싣고 있다. 제이컵 콕슨 전 앤트로픽 연구원은 8일 회사를 떠나며 AI 기업들이 ‘인류의 목숨을 걸고 도박하고 있다’고 비판했다. 앤트로픽에서 정렬 문제를 연구하는 에번 허빙거도 “향후 10년 내 AI로 인류가 멸종할 가능성을 10% 이상으로 본다”고 경고했다.

정치권의 규제 논의도 거세지고 있다.

미 상원에서는 프런티어 AI 기업에 핵·생물무기 등 중대 위험을 줄일 ‘주의 의무’를 부과하고 위험 모델 출시를 막는 방안을 논의 중이다. 영국에서도 하원의원과 상원의원 70여명이 정부에 인공초지능(ASI) 개발 금지와 국제 규제 주도를 촉구했다.

다만 추상적인 AI 파국론을 근거로 규제 논의가 이뤄지는 데 대한 신중론도 나온다. 개리 탄 Y콤비네이터 CEO는 지난 10일 “AI가 사악하니 멈춰야 한다는 식의 모호한 주장에 관심을 돌려서는 안 된다”고 했다. 전 구글 AI 윤리 연구자 팀닛 게브루도 정책 논의가 ‘속도전’으로 이어지는 것을 경계했다. AI 모델을 공개하는 오픈소스 진영 일각에서는 안전규제 비용이 후발주자에겐 진입장벽이 될 수 있다고 우려한다.

법적 허들도 넘어야 한다. 오픈AI는 최근 경쟁사들이 개발·출시 속도를 함께 제한하면 담합으로 해석될 소지가 있는지 반독점법상 기준을 명확히 해달라고 미 의회에 요청했다.

미·중 패권 경쟁도 감속론의 현실적인 제약요인으로 꼽힌다. 마크 저커버그 메타 CEO는 지난달 중국과의 경쟁을 이유로 “미국의 경쟁력을 늦춰선 안 된다”며 AI 개발 가속을 주장했다.

도널드 트럼프 미국 대통령은 “우리가 AI에서 이기지 못하면 매우 나쁜 위치에 놓일 것”이라고 했다. 중국이 미국과 AI 안전 관련 대화를 추진하는 것으로 알려졌지만, 개발 속도까지 함께 제한하는 ‘빅딜’은 현실적으로 쉽지 않다.

최병호 고려대 인공지능연구소 교수는 “AI로 인한 리스크는 측정이나 관리 자체가 어려우므로 (감속에 대한) 문제의식 자체는 타당하다”면서도 “기업들이 말과는 달리 자금 조달을 위한 상장을 추진하고, 데이터센터에 대한 투자도 가속화하고 있다. 향후 수익화 압박도 커질 텐데 ‘속도를 조절하자’는 주장이 얼마나 진정성이 있을지 의문”이라고 했다.