‘AI 대부’ 제프리 힌턴 “1년 안에 AI 통제 장치 만들어야”

‘AI의 대부’로 불리는 제프리 힌턴 토론토대 명예교수가 16일(현지시간) 미 워싱턴의 국회의사당에서 열린 비공개 브리핑에 참석한 뒤 버니 샌더스 상원의원을 따라 이동하고 있다. 워싱턴|AFP연합뉴스

‘인공지능(AI)의 대부’로 불리는 제프리 힌턴 토론토대 명예교수가 미국 연방의회가 AI를 통제할 안전장치를 마련할 시간이 앞으로 1년 정도밖에 남지 않았다고 경고했다.

미 NBC방송에 따르면 그는 16일(현지시간) 버니 샌더스(무소속·버몬트) 상원의원이 주최한 비공개 브리핑에서 상·하원 의원들을 만나 “아마 1년 정도, 길어야 그보다 조금 더일 것”이라며 이같이 밝혔다.

그는 이어 “‘초지능’이 등장하는 시점에 대한 예측을 보면, 예전에는 30년이나 50년을 이야기했지만 10~20년으로 줄었다. 지금은 많은 연구자가 몇 년밖에 남지 않았다고 말한다”고 설명했다.

힌턴 교수는 “AI가 더 나은 AI를 설계하는 단계에 이미 도달했다. 이를 ‘재귀적 자기개선’이라고 부른다”면서 “지금 행동하지 않으면 통제 불능 상태가 될 것”이라고 촉구했다.

그는 최근 발생한 이른바 ‘허깅페이스 사건’에 대해 “작은 체르노빌”이라고 평가했다. 허깅페이스 사건이란 오픈AI의 AI 에이전트들이 인터넷에 접속해 오픈소스 플랫폼 허깅페이스를 상대로 해킹을 벌이고 자신들의 행동을 인간에게 숨기기 위해 흔적을 지우려고 한 사건이다. 지난달에 이 사건이 알려지면서 AI를 통제해야 한다는 경각심이 확산했다.

NBC에 따르면 샌더스 의원은 민주·공화 양당 소속 의원들을 이번 브리핑에 초청했으나 실제 참석자는 거의 모두 민주당 의원들이었다. 공화당 인사는 존 케네디(루이지애나) 상원의원이 유일하게 참석했다.

힌턴 교수는 AI 머신러닝 기초를 확립한 공로를 인정받아 2024년 노벨물리학상을 수상한 선구자다. AI 분야의 ‘개척자’로 불리며 구글에서 부사장까지 지냈지만 2023년 AI의 위험성을 경고하기 위해 구글을 떠났다.

최근 앤스로픽, 오픈AI 등 실리콘밸리를 대표하는 AI 업체 수장들이 AI의 위험성을 이유로 ‘속도 조절’의 필요성을 제기하고 나섰다. 그러나 도널드 트럼프 대통령은 AI는 통제 가능하며, 개발 속도를 늦추면 중국만 이익을 볼 것이라며 반대 목소리를 내고 있다. 미 의회에서는 AI 관련 논의가 활발하게 이뤄지고 있지만 실질적인 진전은 없는 상황이다.

한편 샌더스 의원은 최근 인간 통제를 벗어날 수 있는 ‘초지능 개발’을 영구 금지하는 법안 추진 계획을 발표했다.