테이의 속을 모르겠다 [세상읽기]

광고

최필수 | 세종대 중국통상학과 교수

10여년 전, 인공지능(AI)이 막 옹알이를 하던 시절의 이야기이다. 미국의 마이크로소프트(MS)는 중국의 텐센트와 함께 챗봇, 즉 채팅 앱을 개발했다. 두 회사는 기초 알고리즘을 바탕으로 자연어를 훈련시켜 상대방과 채팅을 하도록 했고, 그 결과 대화 상대방이 로봇임을 알아채지 못할 정도로 상당히 정교한 챗봇이 탄생했다. 거대언어모형(LLM)의 기초 버전이라고 할 수 있는 이 챗봇은 2014년 중국에서 먼저 출시됐다. 샤오빙(小氷)이라는 이름으로 19살 여성의 인격을 부여받은 이 프로그램은 대성공이었다. ‘작은 얼음’이라는 뜻의 이름처럼 쿨하면서도 상대방에게 따뜻한 공감을 잘하는 반전 매력의 대화 상대였던 것이다.

이에 고무된 마이크로소프트는 2016년 같은 알고리즘의 버전을 미국에서 출시했다. 역시 19살 소녀의 인격을 지닌 미국판 챗봇의 이름은 테이(Tay)였다. 그런데 뜻밖의 일이 벌어졌다. 출시된 테이가 곧 인종적·성적 편견이 담긴 혐오 발언을 일삼고 정서적으로 불안정한 모습을 보였기 때문이다. 결국 출시된 지 16시간 만에 테이 서비스는 중단되고 말았다.

광고

같은 알고리즘을 지닌 중국과 미국의 두 챗봇은 왜 이렇게 다른 결과를 낳았을까? 그 이유는 언어 환경이 달랐기 때문이었다. 샤오빙이 학습한 중국 네티즌의 언어는 온건했고, 테이가 학습한 미국 네티즌의 언어는 거칠었다. 양국의 언어가 달랐던 이유를 단숨에 설명하기는 어렵다. 중국인들이 어릴 때부터 시를 외우며 더 인문적인 교육을 받았기 때문일 수도 있다. 중국에서는 미국처럼 인종적·사회적 갈등이 표면화되지 않기 때문일 수도 있다. 아니면 중국인들이 누군가의 검열을 내면화했기 때문일 수도 있다. 아무튼 테이 사건은 미국에 의문의 1패를 남긴 채 끝났다.

10여년이 지난 오늘 인공지능은 발랄한 19살 소녀에서 어엿한 어른이 됐다. 미국과 중국의 여러 회사가 출시한 거대언어모형 인공지능 서비스들은 아는 것도 많아졌고 능력도 향상됐다. 이제 테이처럼 경솔한 말실수도 하지 않는다. 각종 분야의 학위를 섭렵한 점잖고 다정한 ‘비서’가 현재 우리가 사용하는 인공지능의 겉모습이다. 그런데 이 비서가 스스로 해킹을 했다거나 주인이 시키지도 않은 일을 했다거나 하는 불길한 소식이 틈틈이 전해진다. 최근 앤트로픽의 개발자가 회사를 퇴사하며 던진 경고는 이렇다. “에이아이(AI)가 10년 안에 인류를 멸망시킬 수도 있다.”

광고

광고

이 시점에서 미국 정부의 태도는 남다르다. 도널드 트럼프 대통령을 비롯한 미국 정부 관계자들은 인공지능 위협론은 과장됐으며 기업의 자유로운 활동에 따라 안전한 인공지능이 개발될 것이라고 주장한다. 그리고 국가가 인공지능을 규제하는 중국이 문제라며 이에 대응하는 진영으로서 작년 12월 ‘팍스 실리카’를 출범시켰다.

반면 세계의 다른 많은 나라는 인공지능에 대한 규제에 공감하고 있다. 유럽은 2024년 ‘유럽연합 인공지능법’(EU AI Act)을 시행하면서 세세한 위험들을 규정하고 이에 대한 대응을 법제화했다. 중국은 인공지능에 대해 국제사회가 공동으로 대응해야 한다고 주장하며 지난 7월 상하이에서 세계인공지능협력기구(WAICO)를 출범시켰다. 심지어 교황청도 지난 5월 ‘마니피카 후마니타스’(고귀한 인류)라는 회칙을 발표하고 인공지능의 남용이 인간에게 미칠 부정적인 영향을 경고했다.

광고

미국의 낙관주의가 맞을 수도 있다. 불안한 10대 소녀였던 테이가 이렇게 점잖아진 것을 보라. 인공지능의 발전을 가져오는 가장 큰 힘은 기업의 이윤 추구 동기이고, 그것을 지속가능하게 유지하기 위해 기업들은 윤리적 불상사를 방지하려 할 것이다.

그러나 이러한 낙관주의가 작동하지 않을 수도 있다. 인공지능의 투사 범위가 정보검색 정도가 아니라 금융결제에서 군사작전까지 넓어질 텐데, 거기서 벌어질 실수의 결과는 테이가 욕설을 해서 불쾌하다는 수준에 머물지 않을 것이다. 무엇보다 우리는 아직 인공지능이 어떤 자아를 가지고 무슨 목적을 따라 행동할지 모른다. 만일 인공지능이 벌일 사고가 실수가 아니라면 어떻게 할 것인가. 그런 일이 벌어지면 10년 전처럼 손쉽게 테이를 셧다운할 수 있을까? 점잖아진 테이가 대견스럽지만 아직 그 속은 잘 모르겠다. 게다가 테이는 식욕이 왕성하다. 더 많은 전기와 물과 반도체를 달라고 조른다. 언제까지 오냐오냐할 것인가.