[시선]인공지능은 ○○○○다

‘인공지능(AI)이 2030년까지 인류 모두를 죽일 수 있다’ ‘10년 내 AI가 인류를 전멸시킬 확률은 10%가 넘는다’. AI 개발 반대 시위의 손팻말에 등장할 법한 말들이 AI 개발 현장에서 나오고 있다. 오픈AI와 앤트로픽에서 근무한 제이컵 콕슨과 앤트로픽 AI 연구자 에반 휴빙어의 최근 발언이다. 오픈AI의 최신 모델 ‘아스트라’의 놀라운 성능을 떠올리면 그럴듯하게 들리기도 한다. 아스트라는 사람의 단계별 지시 없이 보안 취약점을 찾아 공격 코드를 만들 수 있어 오픈AI 최초로 사이버보안 역량 중대 기준에 도달했다. 일부 평가에서는 탐지를 피하라는 지시에 따라 고의로 오답을 내 자동 모니터링을 우회했다.

인류를 전멸시킬 수 있는 기술이라는 점에서 AI는 자주 원자폭탄에 비교된다. 원자폭탄의 아버지 로버트 오펜하이머가 그랬듯 AI 대부로 불리는 제프리 힌턴 역시 자신이 한 일을 후회하고 있다고 한다. 콕슨은 며칠 전 언론 인터뷰에서 “우리는 핵무기를 통제하는 법은 알지만 AI를 통제하는 법은 모른다”며 AI의 위험성을 한층 더 강조한 바 있다. 인간이 멸망하기 전에 AI를 전부 없애버려야 할 것 같은 과격한 상상을 하게 된다.

AI를 일종의 바이러스로 생각하면 어떨까? 특히 챗GPT와 같은 생성형 AI를 떠올려보자. 이 바이러스에 감염된 인간은 스스로 읽고 쓰고 생각하는 능력을 잃어간다. 스페인 폼페우파브라대와 미국 터프츠대·하버드대 등의 연구진이 최근 발표한 논문 ‘인지 바이러스로서의 대규모 언어모델’에서 제시한 비유다. 인간이 AI에 사고를 외주화한다는 비판은 익숙하지만 바이러스라는 비유가 참신하다.

코로나19 바이러스가 전 세계적으로 확산되던 시절 사람들은 외출할 때마다 마스크를 썼고 귀가하자마자 비누로 손을 씻었다. 전국적으로 ‘사회적 거리 두기’가 시행되고 예방접종이 대대적으로 이루어졌으며 당시 한국은 세계적인 방역 모범국가로 꼽혔다. 코로나 바이러스는 지금도 사라지지 않았지만 그때만큼 공포스럽지 않다. 이는 개인의 면역 체계와 사회의 방역·의료 체계가 함께 작동한 결과다.

물론 AI는 코로나 바이러스와 다르다. AI는 인간에게 해롭기만 한 존재가 아니다. 앞서 소개한 논문이 말하는 ‘인지 면역’은 AI를 근절하거나 접촉을 완전히 차단하는 것이 아니라 AI와 공생하는 것을 뜻한다. 공생이란 AI를 도구로 쓰되 스스로 읽고 쓰고 생각하는 인지적 자율성을 유지하는 상태를 말한다.

문제는 개인의 노력만으로 인지 면역을 갖추기에는 AI 바이러스의 전파가 지나치게 빠르다는 사실이다. 거대 기술기업들은 물론 정부도 AI 확산에 적극적이다.

정부는 반도체·피지컬 AI·AI 데이터센터를 ‘3대 메가프로젝트’로 추진하는 데 이어 내년부터 ‘전 국민 1인 1 AI 에이전트’ 시대를 열겠다고 한다. 그러나 국민이 스스로 읽고 쓰고 생각하는 능력을 기르도록 교육하고, 그러한 능력을 제대로 평가하고 보상하는 제도와 문화를 만드는 것 또한 국가적 과제임은 잊고 있는 듯하다. ‘K인지 방역’이 다시 한번 세계의 모범이 되어 인류가 전멸하기 전에 인간의 인지 능력부터 지켜내기를 바랄 뿐이다.