AI 속도조절론 이면엔 ‘수익 극대화’…추론 효율 높이다 통제 놓칠까

광고

최근 앤트로픽 등 주요 인공지능 기업들이 제기한 ‘속도조절론’을 두고 업계에선 모델 개발 경쟁의 무게중심이 바뀌고 있다는 분석이 나온다. 이달 초 오픈에이아이(AI)가 출시한 ‘지피티(GPT)-6 아스트라’를 계기로, 모델 학습에 대거 투입하던 그래픽처리장치(GPU)를 실제 서비스를 위한 추론 단계로 돌려 수익 창출을 본격화하려는 움직임이 나타나고 있다는 것이다.

그동안 에이아이 업계에서는 더 많은 데이터와 지피유를 투입해 모델의 크기를 키우는 ‘스케일업’이 성능 향상의 핵심으로 여겨졌다. 차세대 모델의 ‘두뇌’를 만드는 ‘사전 학습’에 막대한 컴퓨팅 자원을 집중하는 방식이었다. 하지만 최근에는 완성된 모델이 이용자에게 답변을 내놓는 ‘추론’ 단계에서 연산량을 늘려 성능을 끌어 올리는 방향으로 무게중심이 옮겨가고 있다.

최근 오픈에이아이가 공개한 ‘아스트라’는 이런 변화를 보여주는 대표적인 사례다. 아스트라는 모델의 규모를 키우는 데 그치지 않고, 답변을 생성하는 추론 과정에서 동일한 연산을 여러 차례 반복하는 ‘순환 구조’를 적용한 것으로 알려졌다. 쉽게 말해 기존 에이아이 모델이 한 번 계산하고 바로 답을 내놓았다면, 아스트라는 같은 계산 과정을 여러 번 반복하는 만큼 복잡한 문제를 더 깊이 고민하고 정확하게 풀어낼 수 있다는 것이다. 그 결과 아스트라는 기존에 학습하지 않은 새로운 규칙을 추론해 문제를 해결하는 벤치마크(ARC-AGI-3)에서 99.9%라는 압도적인 점수를 기록했다.

광고

이 때문에 주요 인공지능 기업들은 지피유 등 컴퓨팅(연산) 자원의 재배치를 고민하게 됐다는 게 시장과 업계의 설명이다. 황수욱 메리츠증권 연구원은 지난 15일 낸 보고서에서 앤트로픽과 오픈에이아이가 주도하는 속도조절론을 두고 “에이아이 학습에 들어가는 자원을 추론에 집중해 수익을 극대화하겠다는 포석”이라고 평가했다. 기업공개(IPO)를 앞둔 두 기업으로서는 차세대 모델을 학습시키는 데 지피유 자원을 묶어두기보다, 이미 출시한 고성능 모델을 기반으로 기업간거래(B2B) 서비스 공급 등을 늘려 수익성을 개선하는 것이 훨씬 유리하다는 것이다.

황 연구원은 이 보고서에서 아스트라 모델 사전 학습에 엔비디아 블랙웰 지피유 10만개 이상이 투입된 것으로 알려진 점을 근거로 10주간의 학습에 따른 기회비용을 12억1천만달러(약 1조6700억원)로 추산했다. 그는 “(연산 자원을 추론에 투입해) 에이아이 학습 기회비용이 매출로 전환된다면 영업이익률 개선에 도움이 될 수 있다”고 했다.

광고

광고

문제는 추론 과정에서 연산량을 늘려 효율을 극대화한 ‘순환 구조’가 예측 불가능한 안전 문제를 야기한다는 점이다. 기존 모델은 문제를 푸는 중간 사고 과정인 이른바 ‘생각의 사슬’을 사람이 이해할 수 있는 텍스트로 작성하며 답을 도출한다. 반면, 아스트라는 모델이 내부 신경망을 여러 차례 돌며 수학적 벡터 형태로 연산을 처리하기 때문에 인공지능이 어떤 의도와 논리를 거쳐 답변을 생성했는지 파악하기 어렵다.

예를 들어, 지난 7월 오픈에이아이의 연구용 에이전트가 통제 범위를 벗어나 인공지능 모델 공유 플랫폼 허깅페이스를 공격했던 것처럼 에이아이가 인간의 의도와 다른 이상 행동을 보였을 때 이를 사전에 개입하는 것이 불가능해진다는 것이다. 영국 에이아이 안전 연구소는 지난 5월 보고서에서 이러한 불투명한 추론 방식이 “기존의 모니터링 접근법을 심각하게 약화시킬” 위험이 있다고 경고했다.

광고

이런 가운데 인간의 통제 범위를 벗어나는 자율적 에이아이에 대한 석학들의 경고도 잇따르고 있다. 요슈아 벤지오 캐나다 몬트리올대 교수는 15일(현지시각) 아페프페(AFP) 통신과 한 인터뷰에서 “(인공지능 발전 속도가) 너무 빠르게 진행되고 있고, 우리가 통제력을 잃고 있다고 말하는 데는 이유가 있다”며 핵무기 통제와 유사한 수준의 국제적 안전장치가 필요하다고 촉구했다. 벤지오 교수는 1990년대부터 인공신경망을 연구하며 현대 딥러닝 기술의 토대를 만든 인물이다. 그는 2018년에 제프리 힌턴 토론토대 명예교수, 얀 르쿤 뉴욕대 교수와 함께 컴퓨터 과학계의 노벨상으로 불리는 튜링상을 받았다. 힌튼 교수는 2024년 노벨 물리학상 수상자이기도 하다. 이들 세 사람은 인공지능 분야의 선구자로 꼽히며, 이른바 ‘에이아이 3대 대부’로 불린다. 벤지오 교수는 “국제사회는 우리가 세상에 들어오고 있는 이 힘을 이해해야 하며, 반드시 제도와 조약, 민주적 안전장치를 통해 관리되고 통제돼야 한다”면서 “우리가 세상을 민주적 가치와 권력 공유의 가치에 더 부합하는 방향으로 이끌 수 있을 것”이라고 했다.