앞에선 AI속도조절 한목소리…뒤에선 'IPO·주도권' 복잡한 셈법

이미지 확대

(샌프란시스코=연합뉴스) 권영전 특파원 = 미국의 주요 인공지능(AI) 업계가 인류파멸론과 속도조절론을 앞세우고 있지만, 이면에서는 이해관계와 주도권 다툼이 복잡하게 얽혀 있다는 분석이 나온다.

14일(현지시간) 미국 일간 월스트리트저널(WSJ)은 앤트로픽과 오픈AI 등 주요 AI 기업들이 맞닥뜨린 상황에 대해 "돈과 안전의 충돌이 AI에 엄청난 위기를 초래했다"며 "과학적 진보, 도덕적 의무, 경제적 유인이 맞물리면서 산업 전체가 위기에 처했다"고 진단했다.

이들 기업이 AI 안전을 주창하면서 기업공개(IPO)를 앞두고 기업 가치를 높이는 한편 경쟁사를 견제하기 위해 주판알을 튕기고 있다는 비판이다.

◇ "초지능 AI 막는 방법? AI 기업들끼리 합의하면 돼"

가장 먼저 AI 속도조절론을 꺼내 든 것은 현재 AI 경쟁에서 가장 앞서가고 있다는 평가를 받는 앤트로픽의 다리오 아모데이 최고경영자(CEO)다.

그는 AI가 인간의 개발 등 없이도 스스로 발전할 수 있는 '재귀적 자기개선'(RSI)에 도달하는 시기가 목전에 다가왔다는 분석과 AI가 인간의 통제를 벗어나 외부 기관을 무단 해킹하는 등 사례를 그 근거로 들었다.

그러면서 이와 같은 속도 조절의 방법으로 미 정부 등 정치권이 이를 위한 규제를 만들어 시행하는 방안을 제안했다.

앙숙인 오픈AI의 샘 올트먼 CEO를 비롯해 일론 머스크 스페이스X CEO, 데미스 허사비스 구글 최고과학자, 무스타파 술레이만 MS AI CEO 등 상당수 AI 업계 수장들도 아모데이 CEO의 이 같은 입장에 대부분 동조했다.

얽히고설킨 인간관계와 뒤섞인 이해 때문에 이들이 이처럼 같은 의견을 견지하는 것은 상당히 이례적인 일이다.

그러나 비판론자들은 이들의 주장을 순수한 이타주의로 받아들이지 못하고 있다.

데이비드 색스 백악관 과학기술자문위원장은 "공개되지 않은 모델이 너무 위협적이라 속도를 늦춰야 한다고 생각한다면 책임감 있는 결정을 내린 여러분을 지지한다"면서도 "속도를 늦추려는 동기가 이타적이라고 가장하는 것은 그만두라"고 지적했다.

그는 "초지능을 개발하지 않는 가장 쉬운 방법은 여러분이 이를 개발하지 않기로 합의하는 것"이라며 AI 개발 속도를 늦추기 위해 정부가 규제를 마련해야 한다는 방안을 비판했다.

그는 AI 기업들이 자진해서 규제받겠다고 하면서 그 대가로 자신들이 선호하는 규제 체계를 요구하려 하고 있다고 꼬집었다.

이미지 확대

◇ 속도 조절해도 'AI 기업은 실리 챙긴다' 관측

AI 기업들이 주장하는 대로 속도 조절이 이뤄질 경우 결국 그 수혜가 AI 기업으로 돌아갈 것이라는 분석도 시장에서 나오고 있다.

AI 기업들이 일제히 개발을 멈추면 이들은 개발 경쟁에 따른 천문학적인 모델 훈련 등 연산 비용을 아낄 수 있게 된다.

동시에 이미 개발해 배포를 완료한 모델을 통해 매출은 계속 생기는 만큼 영업이익 등 재무 구조가 개선될 수 있다.

특히 오픈AI와 앤트로픽은 이를 통해 상장 전 공개될 재무제표를 더욱 매력적으로 만들 수도 있는 셈이다.

또 현재 선두를 달리고 있는 소수 집단이 주도하는 규제가 법제화할 경우 새로운 AI 기업의 진입을 막는 식의 '규제 포획'이 일어날 가능성도 우려된다.

규제 포획이란 원래 규제의 대상이어야 할 기업 등이 규제기관에 영향력을 발휘해 자신들에게 유리한 형태의 규제를 제정하는 것을 말한다.

앤트로픽과 오픈AI, 스페이스XAI, 메타 등 폐쇄형 AI를 개발하는 기업들이 안전을 명분으로 주도하는 규제는 신규 스타트업의 진입을 막거나, 개방형(오픈소스) 모델이나 중국 AI 기업 등의 추격을 차단하는 형태가 될 수도 있다.

실제 앤트로픽과 오픈AI가 각기 상반되는 상장 계획을 추진하면서 AI 안전성을 아전인수격으로 해석하는 것도 눈길을 끈다.

앤트로픽은 가장 먼저 속도조절론을 내놓고도 상장 절차는 예정대로 연내 마무리하겠다는 계획인 것으로 알려졌다.

이런 행태가 모순이라는 지적에 대해서도 상장기업이 되면 오히려 투명성이 강화된다는 명분을 내세운다고 미 온라인매체 악시오스는 전했다.

반면 오픈AI의 샘 올트먼 CEO는 AI 안전을 위해 상장을 내년으로 미루겠다고 언론 인터뷰를 통해 밝혔다.

그러나 뉴욕타임스(NYT)의 지난 6월 보도에 따르면 오픈AI는 이번에 AI 속도조절론이 불거지기 훨씬 전인 그 당시부터 기업가치가 기대치인 1조 달러에 미달한다는 점 때문에 상장 시기를 미루기 위한 검토를 해왔다.

이미지 확대

◇ AI 속도조절론, 중국 추격에 공염불 가능성

AI 개발이 기업 간 경쟁을 넘어 미국과 중국의 패권 경쟁으로까지 번진 상황에서 미국 기업들만의 자발적 속도 조절은 한계가 명확하다는 지적도 나온다.

실제로 중국의 문샷AI, 딥시크, 알리바바 등 개방형 AI는 미국 최상위 AI 모델과의 격차를 턱밑까지 좁힌 상황이다.

중국의 AI 기업이 '산업 규모 증류'를 벌여 미국 AI 기업의 기술을 가로채고 있다고 마이클 크라치오스 백악관 과학기술정책실(OSTP) 실장과 스콧 베선트 재무장관 등이 규탄한 것이 불과 두 달 전이다.

도널드 트럼프 대통령도 "AI와 데이터센터를 겨냥한 역겨운 음모가 있으며 이를 기뻐할 유일한 나라는 중국"이라며 AI 속도조절론을 강도 높게 비난했다.

트럼프 대통령은 특히 "음모론자들, 반역자들, 배신자들, 정보유출자들, 조심하라"면서 속도조절론을 국가에 대한 반역이나 배신과 사실상 동일시했다.

속도조절론을 꺼낸 앤트로픽이 주로 중국 등 적대국 기업에 적용해왔던 미 국방부 '공급망 위험 기업'에 지정되는 등 행정부와 껄끄러운 관계를 유지해온 것도 이와 같은 격앙된 반응에 영향을 준 것으로 보인다.

중국도 속도조절론에 비판적인 견해를 공개적으로 표시했다.

궈자쿤 중국 외교부 대변인은 "위협론을 퍼뜨리고 악의적 경쟁을 벌이는 것은 어느 쪽의 이익에도 부합하지 않는다"며 "AI 글로벌 거버넌스의 진전을 방해할 뿐"이라고 주장했다.

아모데이 CEO 자신도 중국과 같은 적대국이 속도 조절에 동참하지 않을 가능성을 언급했다.

이미지 확대

◇ AI 파멸론도 학자마다 의견 엇갈려

이번 속도조절론의 발화점이 된 AI 파멸론에 대해서도 연구자나 학자마다 의견이 엇갈린다.

AI 파멸론은 AI가 인류를 멸망시킬 확률을 뜻하는 'p(doom)' 수치가 얼마인가 하는 논의이다.

이 수치는 AGI가 등장할 확률과 AI가 인간과의 목표 불일치 확률, 인간이 AI에 대한 통제를 상실할 확률, AI의 행동이 인류 멸종 등으로 이어질 확률 등을 곱한 값으로 산출한다.

각각의 확률을 어떻게 잡느냐에 따라 다양한 가정과 가정이 이어지는 구조여서 학자마다 수치가 천차만별이다.

예를 들어 로만 얌폴스키 미국 루이빌대 사이버보안연구소장은 파멸의 가능성을 99.99%라는 극단적인 값으로 잡는가 하면 3대 AI 대부 중 하나로 꼽히는 얀 르쿤 뉴욕대 교수는 0.01% 미만으로 계산한다.

다른 3대 AI 대부인 노벨상 수상자 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수는 확률을 10∼20%로 제시하고 있다.

실제로 이번에 앤트로픽을 퇴사하면서 AI발 인류 멸망을 경고해 파멸론에 불을 지핀 제이컵 콕슨 연구원이나 이에 동조한 앤트로픽 임원들도 구체적인 수학적·통계적 모델이나 데이터 기반의 근거를 제시하지는 않고 있다.

르쿤 교수는 이와 같은 멸망 확률에 대해 과거 "추정치 자체가 근거 없이 지어낸 것"이라고 비판하며 "내가 굳이 계산하자면 p(doom)은 1천년 안에 인류멸망을 가져올 소행성이 지구와 충돌할 확률보다 낮고, 핵 재앙이 발생할 확률보다는 훨씬 낮다"고 주장했다.

르쿤 교수는 AI 기업 수장들이 AI 때문에 대규모 실직과 일자리 위기를 가져올 것이라고 발언한 데 대해 비판적인 입장을 내놓으면서, 미래 예측은 AI 전문가가 아니라 해당 분야 전문가의 영역이라고 강조한 적도 있다.

그는 아모데이 CEO가 '5년 안에 정보기술(IT) 일자리, 초급 변호사, 컨설턴트, 금융 전문가의 절반이 완전히 사라질 것'이라고 발언한 데 대해 "다리오는 틀렸다"면서 그가 AI 모델 개발에 대해서는 잘 알지만, 기술 혁명이 노동 시장에 미치는 영향에 대해서는 알지 못한다고 지적했다.

그러면서 이와 같은 주제에 대해서는 아모데이·올트먼 CEO는 물론 힌튼·벤지오 교수나 자신의 이야기도 듣지 말고, 노동 시장을 평생 연구해온 전문 경제학자들의 견해에 귀를 기울이라고 조언했다.

comma@yna.co.kr

제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지> 2026년09월15일 08시12분 송고