AI 파국론에···앤트로픽·오픈AI 수장 “속도 늦추자”, 머스크·허사비스도 “방향 공감” 한목소리

왼쪽부터 샘 올트먼 오픈AI 최고경영자(CEO), 다리오 아모데이 앤트로픽 CEO, 일론 머스크 xAI CEO. AFP연합뉴스

AI 업계에서 인공지능(AI) 개발 속도에 ‘브레이크’를 걸자는 목소리가 커지고 있다. 세계 최상위 AI 기업 수장들이 잇달아 속도 조절에 공감하면서 업계 차원의 ‘공동 감속 규칙’이 마련될지 관심이 쏠린다. 중국을 포함한 업계 전반의 호응을 끌어낼 수 있을지가 관건이 될 것으로 보인다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일(현지시간) 블로그에 올린 글에서 “AI 모델의 능력을 개선하는 속도를 늦춰야 한다”고 말했다. AI 스스로 다음 세대 AI 개발을 돕는 ‘재귀적 자기개선’이 시작되면서 발전 속도가 안전기술을 앞지르고 있다는 주장이다. 그는 지난 7월 오픈AI의 허깅페이스 사태를 예로들며 “지금 추세라면 6~12개월 안에 에이전트 군집이 인터넷 전체를 장악할 정도로 강력해질 수 있다”고 경고했다. 이어 외부 전문가의 내부 점검·프런티어랩 간 공통 안전기준 마련·국제적 협력 확대 등을 제안했다.

경쟁사 수장들도 곧바로 호응했다. 샘 올트먼 오픈AI CEO는 같은 날 “프런티어를 적절히 조절해야 한다는 데 동의한다”고 했다. 또 올해 오픈AI 상장은 하지 않겠다고 밝히며 안전·정렬 문제를 이유로 들었다. 일론 머스크 xAI CEO CEO도 “다리오가 맞다”고 했고, 데미스 허사비스 구글 딥마인드 의장도 “세부는 다듬어야 하지만 방향은 맞다”고 가세했다.

‘AI 파국론’ 대두에 정치권도 목소리

지난 7월 29일 미국 워싱턴DC 의회 의사당에서 샘 올트먼 오픈AI 최고경영자(CEO)가 회의 사이 이동하며 엘리베이터를 타고 있다. 로이터연합뉴스

최근 프런티어랩 내부에서 AI 통제 실패에 대한 극단적 전망이 잇따라 나온 것도 감속론에 힘을 싣고 있다. 제이컵 콕슨 전 앤트로픽 연구원은 8일(현지시간) 회사를 떠나며 AI 기업들이 ‘인류의 목숨을 걸고 도박하고 있다’고 비판했고, 앤트로픽에서 정렬 문제를 연구하는 에번 허빙거도 “향후 10년 내 AI로 인류가 멸종할 가능성을 10% 이상으로 본다”며 경고했다.

정치권의 규제 논의도 거세지고 있다. 미 상원에서는 프런티어 AI 기업에 핵·생물무기 등 중대 위험을 줄일 ‘주의 의무’를 부과하고 위험 모델 출시를 막는 방안을 논의 중이다. 영국에서도 하원의원과 상원의원 70여명이 정부에 인공초지능(ASI) 개발 금지와 국제 규제 주도를 촉구했다. 퓨리서치센터 조사에서 미국인의 63%가 AI 발전 속도가 너무 빠르다고 답하는 등 우려도 크다.

다만 추상적인 AI 파국론을 근거로 규제 논의가 이뤄지는 데 대한 신중론도 나온다. 개리 탄 Y콤비네이터 CEO는 지난 10일 “AI가 사악하니 멈춰야 한다는 식의 모호한 주장에 관심을 돌려서는 안 된다”고 했다. 전 구글 AI 윤리 연구자 팀닛 게브루도 “기업의 주장부터 정치권의 법안 제안까지 걸리는 시간이 너무 짧다”며 정책 논의가 ‘속도전’으로 이어지는 것을 경계했다.

성장과 안전 사이 줄타기···중국도 ‘변수’

생성형 AI 모델 키미(KIMI)와 딥시크(DeepSeek) 로고. 로이터연합뉴스

AI 모델을 공개하는 오픈소스 진영 일각에서는 안전규제 비용이 후발주자의 진입장벽이 될 수 있다고 우려한다. 안전 규제가 소수 대형기업의 통제력만 키울 수 있다는 것이다. 법적 허들도 넘어야 한다. 오픈AI는 최근 경쟁사들이 개발·출시 속도를 함께 제한하면 담합으로 해석될 소지가 있는지 반독점법상 기준을 명확히 해달라고 미 의회에 요청했다. 감속을 주장하는 앤트로픽이 고성장을 전제로 한 대형 IPO를 추진하고 있다는 점도 감속론의 실효성을 시험하는 대목이다.

미·중 패권 경쟁도 감속론의 현실적인 제약요인으로 꼽힌다. 마크 저커버그 메타 CEO는 지난달 중국과의 경쟁을 이유로 “미국의 경쟁력을 늦춰선 안 된다”며 AI 개발 가속을 주장했다. 도널드 트럼프 미국 대통령은 “우리가 AI에서 이기지 못하면 매우 나쁜 위치에 놓일 것”이라고 했다. 아모데이 CEO도 중국이 따라잡을 정도로 개발 속도를 늦춰서는 안 된다는 조건을 달았다. 중국이 미국과 AI 안전 관련 대화를 추진하는 것으로 알려졌지만 개발 속도까지 함께 제한하는 ‘빅딜’은 현실적으로 쉽지 않다.

최병호 고려대 인공지능연구소 교수는 “AI로 인한 리스크는 측정이나 관리 자체가 어려우므로 (감속에 대한) 문제의식 자체는 타당하다”면서도 “기업들이 말과는 달리 자금 조달을 위한 상장을 추진하고, 데이터센터에 대한 투자도 가속화하고 있다. 향후 수익화 압박도 커질 텐데 ‘속도를 조절하자’는 주장이 얼마나 진정성이 있을지 의문”이라고 했다.