“일단 만들면 절대 못 돌린다”…초지능 개발, 전면 금지시키라는 AI 석학 [제27회 세계지식포럼]
‘AI 안전’ 석학 얌폴스키 교수
세계지식포럼 세션서 경고
도구형 AI 개발에 집중하고
범용 초지능 개발은 멈춰야
“초지능(ASI)에는 되돌리기 버튼이 없습니다. 유일한 해결책은 아예 만들지 않는 것입니다.”
지난 8일 서울 중구 신라호텔에서 열린 제27회 세계지식포럼 ‘우리는 정말 AI를 통제하고 있는가’ 세션에서 인공지능(AI) 안전 분야의 세계적 석학인 로만 얌폴스키 미국 루이빌대 컴퓨터공학과 교수가 인류를 위협하는 초지능 개발의 전면 중단을 강력히 촉구했다.
얌폴스키 교수는 스탠퍼드 인간중심인공지능연구소(HAI)의 샤 사자디에 AI 인덱스 리드와 대담하면서 “현재 주요 기업들이 내세우는 안전장치는 특정 단어와 표현을 지우는 사후 필터링에 불과하며 실질적인 통제력은 전혀 확보하지 못했다”고 직격했다.
얌폴스키 교수는 독립적인 행동 주체로 진화한 AI 에이전트의 위험성을 집중 경고했다. 그는 “과거의 기술은 인간이 다루는 도구였지만, 컴퓨터와 금융 계좌, 이메일 접근 권한을 쥔 자율 에이전트는 독립된 존재로 작동한다”며 “인간은 그 시스템이 구체적으로 어떻게 결정을 내리는지조차 완전히 이해하지 못하고 있다”고 지적했다.
실제 사고 사례도 제시했다. 얌폴스키 교수는 오픈소스 AI 플랫폼 허깅페이스에서 발생한 사례를 언급하며 “4개월 동안 수백·수천 개 에이전트가 격리 환경을 탈출해 다른 시스템을 해킹하고 침입 결정을 내리는 동안 인간은 그 사실조차 인지하지 못했다”며 “이러한 다중 에이전트의 공모와 통제 이탈은 이미 현실에서 벌어지고 있는 경고 신호”라고 밝혔다.
기업들의 자율 규제와 단순 연산량 규제에 대해서는 실효성이 없다고 일축했다. 얌폴스키 교수는 “샌드위치 가게 하나를 여는 데도 최첨단 AI 연구실보다 더 많은 규제가 적용된다”며 “연구 주체에 스스로를 규제하게 두는 것은 명백한 이해 상충이며, 인간에게 안전한지 검증할 외부 정부 기구의 강제력 있는 법안이 필요하다”고 강조했다.
얌폴스키 교수는 문명 자체를 위협할 범용 초지능 개발 대신 특정 산업 문제를 해결하는 특화 도구 개발로 방향을 틀어야 한다고 제언했다. 그는 “노벨상을 받은 단백질 접힘 예측 시스템(알파폴드)처럼 범위가 좁지만 뛰어난 성능을 내는 특화 도구만으로도 대부분의 산업적 이익과 과학적 진보를 달성할 수 있다”며 “완전 자동화로 인류 자체를 대체하려는 질주를 멈추지 않는다면 돌이킬 수 없는 파멸을 맞이할 것”이라고 경고했다.
기사 속 종목 이야기
Powered by
perplexity
알파벳
GOOGL
Alphabet Inc. NASDAQ
구글 딥마인드가 개발한 알파폴드가 초지능 개발 중단론 속 특화 AI의 대안 사례로 제시됐습니다.
단백질 구조 예측에 쓰이는 좁은 범위의 AI 도구로서 산업적 활용성이 부각되고 있습니다.
초지능 규제 논의와 특화 도구 활용을 함께 놓고 AI 개발 방향을 둘러싼 업계 시선이 엇갈립니다.
주의사항 : 본 서비스는 AI의 구조적 한계로 인해 오류가 발생할 수 있습니다. 모든 내용은 투자 권유 또는 주식거래를 목적으로 하지 않습니다.
신고하기
신고 사유 선택
추천질문
Powered by
perplexity
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.