스탠퍼드대 “AI 거품 터진다면, 세계경제 막대한 파급효과” 경고

광고

인공지능(AI)이 빠르게 발전하면서 사진과 영상 기록 등을 기반으로 한 인지와 지각에 대한 인간의 오래된 신뢰 기반이 무너지고 있다는 경고가 나왔다.

미국 스탠퍼드대 인간중심인공지능연구소(HAI)는 10일(현지시각) 이 같은 내용을 담은 ‘인공지능 AI100’ 제3차 보고서를 발표했다. AI100은 인공지능이 기술·경제·윤리·사회에 미치는 영향을 최소 100년에 걸쳐 추적하는 장기 연구 프로젝트로, 2014년에 시작된 이래 2016년과 2021년에 각각 보고서를 냈다.

해당 보고서에서 연구진은 AI의 발전이 사회적 신뢰를 흔들고 있다고 지적했다. 이들은 “인공지능이 생성한 이미지와 음성, 영상은 기록에 근거한 증거가 본질적으로 신뢰할 만하다는 100년 동안의 믿음을 무너뜨렸다”며 “이제 눈으로 본다고 해서 믿을 수 있는 것은 아니다”고 진단했다. 그러면서 딥페이크 등의 기술이 금전 갈취 등에 악용되는 상황을 짚으며 “(이같은 영향은) 언론과 창작 분야를 비롯한 그 밖의 영역에 이르기까지 광범위하게 나타날 것이며, 대중의 신뢰가 지속적으로 악화하는 데도 영향을 미칠 수 있다”고 경고했다.

광고

인공지능의 군사적 활용과 사이버보안 위협도 주요 위험으로 꼽았다. 연구진은 이스라엘이 가자지구 전쟁에서 인공지능 기반 표적 추천 시스템을 활용한 사례를 언급하며 “군사용 인공지능은 더 이상 가상의 논의 대상이 아니라 실제 전쟁 양상을 바꾸고 있다”고 평가했다. 인공지능이 사이버공격에 활용되는 상황을 두고선 “매우 현실적인 위험”이라 평가하면서 공격자와 방어자 사이의 기술 경쟁 또한 격화될 것으로 내다봤다.

인공지능 인프라에 막대한 자금이 쏠린 현재 상황에 대해서도 우려를 나타냈다. 연구진은 “인공지능 인프라에 대한 자본투자는 규모와 속도 면에서 전례가 없다”며 “이 같은 투자는 미국 경제 일부를 떠받치고 자본시장을 지배하는 동시에 금융 거품에 대한 우려를 키운다”고 짚었다. 특히 AI의 경제적 효과는 거시경제 지표 등에서 아직 뚜렷하게 나타나지 않는다며 “AI 거품이 터진다면 세계경제 전반에 막대한 파급효과를 가져올 것”이라고 경고했다.

광고

광고

한편, 연구진은 2021년 보고서에서 ‘거대언어모델(LLM)과 생성형 AI의 부상’을 예상하지 못했다며 당시 전망과 실제 기술 발전의 차이도 짚었다. 당시엔 인공지능이 상식적인 추론 능력을 갖추려면 물리적 세계와의 연결이 필요할 수 있다고 전망했으나, 현재 거대언어모델은 물리적 세계와 연결되지 않고도 상당한 추론 능력을 입증했다. 또한 인공지능의 수학적 발견에 대해선 ‘해결되지 않은 거대한 도전 과제’라고 꼽았지만, 이번 보고서에선 “극적인 진전이 있었다”고 분석했다. 인공지능의 기술 변화도 수십 년이 걸릴 것으로 예상했지만, 이번 보고서에선 “기술 혁신의 확산 속도를 과소평가했다”고 자평했다. 그러면서 마지막 결론 부분에서 “AI 기술이 지난 5년 동안 우리가 목격한 속도로 계속 발전한다면, 다음 보고서가 발표될 무렵 세계는 지금과 극적으로 달라져 있을 것”이라고 전망했다.