앤트로픽 떠난 개발자의 경고 “AI 통제권 잃을 가능성 커···인류 멸종할 수도”

인공지능 개발의 위험성을 이유로 퇴사한 앤트로픽 개발자 제이콥 콕슨이 5일(현지시간) 뉴욕시의회 청문회에 증인으로 참석하고 있다. AFP연합뉴스

최근 인공지능(AI) 개발의 위험성을 이유로 퇴사한 앤트로픽 개발자 제이콥 콕슨이 ‘인류 멸종’까지 언급하며 AI에 대한 통제 불능 상황을 경고했다.

블룸버그통신에 따르면 콕슨은 5일(현지시간) 미국 뉴욕시의회에서 열린 AI 규제 관련 청문회에 증인으로 참석해 “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다”고 밝혔다.

그는 “현재 경로대로라면 인류가 AI에 대한 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크며, 이는 인류 멸종으로 끝날 수도 있다”고 말했다.

콕슨은 지난달 앤트로픽과 오픈AI가 “우리의 목숨을 걸고 도박하고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 경고하며 회사를 떠났다.

뉴욕시의회 초청으로 청문회에 참석한 콕슨은 시가 검토 중인 AI ‘킬 스위치’(긴급 차단 장치)에 대해 단기적으로는 도움이 될 수 있지만 장기적인 안전을 보장하기에는 충분하지 않다고 지적했다. 그러면서 “프런티어 모델 개발에 일종의 속도 조절이 필요하다”고 강조했다.

그는 AI 산업의 중심지인 실리콘밸리의 오랜 격언 ‘빠르게 움직이고 깨뜨려라’(Move fast and break things)를 거론하며 업계의 접근 방식이 “극도로 무모하다”고도 비판했다. 이어 이런 방식은 “사진 공유 앱에는 통할지 몰라도 역사상 가장 강력한 기술을 만드는 데는 통하지 않는다”고 말했다.

이날 청문회에는 오픈AI와 앤트로픽, 구글, 메타플랫폼 관계자들도 화상으로 출석했다. 스페이스X는 출석하지 않은 가운데 오픈AI와 앤트로픽, 구글은 시의회가 소환장 발부를 경고한 뒤에야 출석하기로 했다.

줄리 메닌 뉴욕시의회 의장은 청문회에 앞서 열린 기자회견에서 “그저 자율 규제로 그칠 것이라는 AI 기업들의 생각은 통하지 않을 것”이라고 경고했다.