샘 올트먼 “AI 일부 위험 감수해야”…앤트로픽과 ‘안전 철학’ 선 긋기

샘 올트먼 오픈AI 최고경영자(CEO)가 지난달 29일 샌프란시스코 포트메이슨에서 열린 오픈AI 개발자 콘퍼런스에서 기조연설을 하고 있다. AFP연합뉴스

샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI)이 가져올 편익을 위해 일정 수준의 위험은 감수해야 한다고 밝혔다. 안전 규제를 강조해온 경쟁사 앤트로픽과 뚜렷한 입장 차이를 보였다.

4일(현지시간) 로이터통신 등에 따르면 올트먼은 정치전문매체 폴리티코의 기술 뉴스레터 ‘디코디드’와 인터뷰에서 “이 기술이 주는 혜택과 사람들이 이를 활용할 수 있는 선택권을 위해 세상은 일부 나쁜 일이 일어나는 것을 받아들여야 한다”고 말했다.

올트먼은 “중대한 해킹도, 기술 오용도, 사기도 전혀 없도록 하겠다는 거래라면 받아들이지 않겠다”며 사람들이 AI를 활용해 만들어낼 긍정적 효과가 부정적 효과보다 훨씬 클 것이라고 주장했다. 강력한 AI를 일부 기업만 통제하면서 위험을 막고 그 혜택을 선별적으로 나눠주는 방식에 대해서도 “완전히 받아들일 수 없는 절충”이라고 했다. 위험을 ‘제로’로 만드는 것에 집중하기보다 기술 접근성을 넓게 열어둘 필요가 있다는 입장이다.

앤트로픽과의 안전 노선 차이도 분명히 했다. 올트먼은 AI 규제를 바라보는 두 회사 사이에 “근본적인 세계관의 차이가 있다. 상당한 간극이 있다”고 했다. 앤트로픽은 프런티어 AI 기업 가운데 상대적으로 강한 안전 규제를 주장해왔다. 다리오 아모데이 앤트로픽 CEO도 최근 AI 능력이 빠르게 높아지는 상황에서 개발 속도를 조절할 필요가 있다고 강조했다. 올트먼 CEO도 속도 조절 필요성에는 동의했지만, 규제에서는 앤트로픽보다 상대적으로 완화된 접근을 주장해왔다.

다만 올트먼도 AI에 대한 통제 상실 등 파국적인 위험까지 감수해야 한다는 뜻은 아니라고 선을 그었다. AI가 무엇을 하는지 파악하지 못하거나, 인간의 뜻대로 통제하지 못하는 상황은 막아야 한다는 의미다.

앞으로 프런티어 AI 규제와 모델 배포 기준을 둘러싼 업계의 대응에서도 차이가 더 뚜렷해질 수 있다. 특히 스스로 작업을 수행하는 AI 에이전트가 확산하면서 오용 가능성을 어디까지 허용하고, 어떤 경우에 접근을 제한할지가 주요 쟁점으로 떠오를 것으로 보인다.