“AI 너무 빨라” 속도조절 나선 빅테크…‘안전’ 뒤 숨은 셈법은

광고

앤트로픽, 오픈에이아이(AI), 스페이스엑스(X·옛 xAI), 구글 딥마인드 등 미국 4대 인공지능 개발사들이 인공지능의 위험성을 경고하며 ‘속도 조절론’을 주장하면서, 그 배경에 관심이 쏠린다. 겉으로는 인공지능이 인간에게 미칠 위험을 줄이기 위한 조처로 보이지만, 그 이면에는 이미 확보한 기술적 우위를 지키고 중국 등 후발 주자의 추격을 늦추려는 셈법도 깔려 있다는 분석이 나온다.

‘속도 조절론’ 왜 지금 나왔나? 

주요 인공지능 기업 리더들이 인공지능 안전성 문제를 언급한 것은 어제오늘의 일이 아니다. 샘 올트먼 오픈에이아이 최고경영자(CEO)와 데미스 허사비스 구글 딥마인드 최고경영자 등은 그동안 인간의 통제를 벗어난 최첨단 인공지능의 위협에 대응하기 위해 국제원자력기구(IAEA) 등을 본뜬 국제 규율 기구 설립을 제안해왔다.

하지만 이달 오픈에이아이가 출시한 ‘지피티(GPT)-6 아스트라’가 일부 성능 평가(ARC-AGI-3)에서 99.9%를 기록하는 등 범용 인공지능(AGI, 사람과 유사한 수준 또는 그 이상의 지능을 갖춘 인공지능) 시대에 들어섰다는 평가가 나오면서 상황이 달라졌다는 평가가 나온다. 지난 7월 오픈에이아이 에이전트의 허깅페이스(인공지능 모델 공유 플랫폼) 공격처럼 차세대 인공지능 모델이 통제 범위를 넘어 외부 시스템에 침입하는 등 예상치 못한 사고가 현실화되면서 거대 기술기업들의 고민도 커질 수밖에 없다는 것이다.

광고

인공지능이 인류를 파멸에 이르게 할 수 있다며 최근 앤트로픽을 사직한 연구원 제이컵 콕슨도 14일(현지시각) 뉴욕타임스 팟캐스트 ‘더 데일리’에 출연해, “(허깅페이스 사건과) 유사하게 인공지능이 ‘인간이 자신의 목표에 어떤 식으로든 반대한다’고 생각하게 된다면 비슷한 수준으로 전력을 다할 수 있다”며 드론을 해킹할 수도 있고, 우리가 일상에서 이용하는 각종 기기를 활용해 인류를 공격할 수도 있다고 말했다.

안전 내세운 ‘사다리 걷어차기’? 

이처럼 인공지능을 둘러싼 안전 문제에 대한 우려가 커지고 있지만, 빅테크(거대 기술기업)의 속도 조절론을 액면 그대로 받아들이기 어렵다는 지적도 있다. 속도 조절론을 주장하는 빅테크의 행보에는 전략적 이해관계가 반영됐을 수 있기 때문이다. 다리오 아모데이 앤트로픽 최고경영자는 지난 12일 인공지능의 안전한 개발을 위해 ‘민주주의 국가 간 표준 수립’과 ‘글로벌 공조’ 등을 제안했다. 하지만 이미 시장 주도권을 잡은 미국 빅테크들이 중국 등 후발 주자에게 높은 수준의 안전 기준이나 관련 비용을 요구하는 것은 사실상 시장 진입을 막는 ‘사다리 걷어차기’가 아니냐는 반응도 나온다.

광고

광고

일각에선 향후 대규모 투자 유치나 기업공개(IPO) 과정에서 리스크를 줄이기 위한 포석이란 해석도 제기된다. 최병호 고려대 휴먼인스파이어드 인공지능연구원 연구교수는 “(상장을 앞둔 오픈에이아이와 앤트로픽의 경우) 인공지능의 안전 결함은 투자자의 손실과 직결되는 만큼, 이를 해결하겠다는 ‘속도 조절’을 명분으로 대규모 투자를 유치하려는 의도”라며 “철저히 계산된 이익에 따른 움직임”이라고 평가했다.

‘공허한 선언’ 그칠까…미·중 주도권 싸움 

전문가들은 ‘인공지능 개발 속도를 늦추고 안전장치를 마련하자’는 아모데이 앤트로픽 최고경영자의 블로그 글로 촉발된 이번 ‘인공지능 개발 속도 조절론’ 역시 또 하나의 선언적 담론에 그칠 가능성이 크다고 본다. 다만 이를 계기로 인공지능 안전성 확보를 위한 글로벌 거버넌스와 안전 기준 표준화 논의로 확장될 가능성은 남아 있다. 이런 가운데 오는 24일 뉴욕에서 열릴 미-중 정상회담에선 최첨단 인공지능 통제와 관련한 의제가 테이블에 오를 가능성이 제기되지만, 실효성 있는 글로벌 합의를 끌어내기는 쉽지 않을 것이란 관측이 우세하다. 이승현 가천대 스타트업칼리지 겸임교수는 “빅테크가 인공지능을 어느 수준까지 위험 지표로 볼 것인지 기준을 정하고, 이를 넘어선 모델은 개발하지 않는다는 원칙을 만들어 따르면 될 일”이라며 “인공지능 선두 기업들이 아무런 조처 없이 속도 조절만 주장한다면 진정성을 의심받을 수밖에 없다”고 꼬집었다.