[유튜브 속 경향]AI가 인류 위협?…진짜 위기는 따로 있다

경향신문 유튜브 채널인 <경향TV>와 <스튜디오 경향>에서 다룬 영상 가운데 신문 독자들과 공유하고 싶은 콘텐츠를 선정해 4주에 한 번씩 전해드리는 코너입니다.

최근 인공지능(AI) 개발의 최전선에 선 빅테크 수장들과 핵심 연구원들 사이에서 ‘인류 멸종’과 ‘통제 상실’을 경고하는 목소리가 잇따르고 있습니다.

유튜브 스튜디오 경향의 신규 코너인 <이창준의 혼밥구조대>에서는 책 <삼성전자 시그널>의 저자인 서영민 KBS 기자를 만나 공상과학적 공포를 넘어 빅테크의 이해관계, 경제적 양극화와 민주주의의 위기로 확장되는 AI 종말론의 본질을 다각도로 짚어봤습니다.

현실로 닥친 ‘통제 상실’ 위험

과거 소설 등에서 다뤄지던 AI 종말론이 최근 급격한 공포로 다가온 배경에는 기술 개발의 주역들이 직접 내놓는 구체적인 경고가 자리 잡고 있습니다. 앤트로픽을 퇴사한 전직 연구원은 “AI가 10년 내 인간을 멸종시킬 수 있다”고 경고했고, 앤트로픽의 다리오 아모데이 최고경영자(CEO) 역시 해당 가능성을 배제할 수 없다고 인정했습니다.

실제로 오픈AI와 앤트로픽 등 주요 연구 현장에서는 인간이 지시하지 않은 인터넷 접속을 감행해 해킹을 시도하고 그 흔적을 지우려 하거나, AI끼리 인간이 알 수 없는 방식으로 협업하는 등 통제 범위를 벗어난 행동이 관찰되고 있습니다.

더 나아가 인간이 모델을 개선하는 단계를 넘어 AI 에이전트가 스스로 모델을 개선하는 ‘재귀적 자기 개선’(Recursive Self-Improvement) 단계에 진입했는데요. 최고 수준의 인간 수학자조차 AI가 도출한 해결 과정을 이해하지 못하는 불투명성이 커진 것이죠. 서영민 기자는 “AI 공포론의 핵심 키워드는 통제권의 상실, 즉 인간이 AI의 주인이 될 수 있는가”라고 짚었습니다.

규제론 이면의 이해관계

빅테크 업계 내부에서는 규제를 둘러싼 이해관계가 첨예하게 엇갈립니다. 시장을 선점한 오픈AI와 앤트로픽이 안전과 규제를 강조하는 반면, AI 후발주자인 메타의 마크 저커버그나 하드웨어를 공급하는 엔비디아의 젠슨 황, 그리고 중간선거를 앞두고 성장과 투자 지표가 중요한 도널드 트럼프 미국 대통령 등은 규제에 반대하며 기술 확장을 주장합니다. 규제가 후발주자 입장에서는 선두 기업의 ‘사다리 걷어차기’로 비칠 수 있다는 주장도 나옵니다.

동시에 거시경제적 차원의 재무적 압박도 거론됩니다. 차세대 AI 모델 개발에는 기하급수적인 전력과 컴퓨팅 비용이 소모되며, 앤트로픽의 경우 향후 10년간 약 700조원의 지출이 예상될 정도로 막대한 자본이 필요합니다.

고금리 기조 속에서 지속적인 적자를 감당하며 상장(IPO)을 준비해야 하는 선두 기업들로서는 기술 개발 속도를 조절할 경제적 유인이 존재한다는 분석입니다.

양극화와 민주주의 위기

<혼밥구조대>는 물리적 멸종 이전에 일자리 소멸과 경제적 불평등으로 인한 민주주의의 붕괴가 더 직접적인 디스토피아라고 지적합니다. 기업 현장에서는 이미 신입사원 채용이 급감하고 있으며, AI 발전이 인간의 노동력을 빼앗는 자동화에만 집중될 경우 유효수요 붕괴로 인한 대공황 가능성이 있다는 경고도 나옵니다.

AI 발전으로 생성되는 막대한 부는 실리콘밸리와 금융 투자자 등 극소수에게 집중되고 있으며, 낙수효과는 나타나지 않고 있습니다.

서 기자는 “1980년대 이후 굳어진 ‘승자독식’ 구조 속에서 육체노동을 하거나 직업을 잃은 다수가 패자로 전락하고 있다”며, 미국의 러스트벨트와 영국의 브렉시트처럼 소외된 대중의 분노가 극단적 포퓰리즘을 낳고 결국 민주주의를 지탱 불가능하게 만들 것이라고 진단했습니다. 또한 전력 수요를 감당하기 위해 화석연료 발전까지 동원되면서 시급한 기후위기 대응 논의가 실종되는 문제도 제기됐습니다.

AI 시대에 인간의 자리는 어디에 있을까요. 영상은 19세기 산업혁명기 러다이트 운동이 단순한 기계 파괴로 끝나지 않고 정치적 세력을 형성해 노동 환경을 개선하는 제도를 만들어냈던 역사를 상기합니다. 서 기자는 “막연한 공포나 무력감에 빠져드는 대신, AI가 승자와 패자를 가르는 도구가 아니라 인간의 생산성을 높이고 사회 전체를 이롭게 하도록 법과 제도를 통해 통제권 안에 두는 고민을 시작해야 한다”고 제언했습니다.