AI 기술 도약과 새로운 야만 [세계의 창]

광고

슬라보이 지제크 | 슬로베니아 류블랴나대·경희대 ES 교수

유발 하라리는 ‘2030년이 되면 세계는 알아볼 수 없게 될 것이다’라는 강연에서 인공지능(AI)의 발전이 인간의 삶에 어떤 영향을 미칠 것인지에 대해 전망한다.

광고

하라리는 그동안 인간의 시대가 끝났음을 지속적으로 경고해왔지만, 여기서는 이상하리만큼 낙관적이다. 그는 2030년을 개인들이 이미 사망한 인물이나 디지털 인격체와도 정서적 관계를 맺을 수 있는 시대로 그린다. 지금도 많은 사람이 챗지피티와 대화를 나누고 있지만, 앞으로 시스템이 더 발전하면 기억과 기타 물질적 흔적을 바탕으로 재구성된 죽은 사람의 가상 인격과도 대화할 수 있게 될 것이다. 이때 결정적인 문제는 누가 이 게임을 통제하는가이다. 내가 알지 못하는 사이에 어떤 생각과 거짓 기억이 나에게 이식되는 통제가 가해진다면 그것은 엄청난 위험이 아닐 수 없다. 타인의 생각을 읽고 조작할 수 있지만 자신은 신경망에 연결되어 있지 않아 접근당할 위험에 노출되지 않은 이들은 새로운 시대의 지배 계급이 될 것이다.

광고

광고

하라리는 개인이 과학자나 시인과 같은 특정한 이들의 집단정신에 자유롭게 참여할 수 있게 될 것이라 상상한다. 하지만 이런 환상은 새로운 시대에 과연 개인성이 살아남을 수 있을 것인가라는 문제를 과소평가한다. 접속을 조절하는 이식 장치가 기계 장치인 한, 통제권은 그것을 연결하거나 끊는 자에게 귀속된다. 에이아이는 오로지 사회적 활용 방식에 그 결과가 달린 중립적 기계가 아니며, 형식적 구조 자체에 이미 기술적 통제와 지배의 경향을 새기고 있다. 모든 사람의 정신이 연결되어 있는 세계에서는 더 이상 타자가 불가해한 고유한 존재가 아니게 되므로 성적 욕망도, 농담도, 진정한 의사소통도 사라질 것이다. 이러한 세계를 행복하고 해방된 인간 공동체로 보기는 어렵지 않을까.

중대한 기술적 도약은 언제나 새로운 야만으로 향하는 길을 열고, 외견상 해방적으로 보이는 기술의 힘은 결국 허버트 마르쿠제가 ‘억압적 탈승화’라고 부른 것으로 귀결된다. 후기 자본주의에서 억압은 금지가 아니라 허용을 통해 작동한다. 모든 쾌락은 상품화된 형태로 허용되고, 욕망은 해방되지만 그 결과 더 효과적으로 관리된다. 이전에는 부정적으로 여겨졌던 포르노그래피, 성 노동, 약물 문화, 게이 문화, 트랜스 문화, 호화로운 생활을 포함하여 어떤 욕망과 정체성도 더는 지하로 내몰려 낙인찍히지 않는다. 오히려 승인되고 찬양되며, 바로 그 찬양 속에서 자본주의를 영속시킨다.

광고

에이아이 에이전트의 폭발적 성장은 이런 억압적 탈승화를 전례 없는 수준으로 끌어올린다. 진실과 허구, 공적 공간과 사적 공간의 경계를 무너뜨리고, 인간의 사고와 행위에 대한 디지털 통제를 강화한다. 인공지능 알고리즘 등이 작동하는 에이아이 미디어는 지난 10년간 공적 정치 담론에 잔혹성과 파렴치함이 침입하는 데도 큰 역할을 했다. 도널드 트럼프나 베냐민 네타냐후 같은 이들은 과거였다면 사적 대화나 이메일에 국한하여 언급했을 내용도 부끄럼 없이 공표한다. 이는 순수한 형태의 억압적 탈승화로, 존엄을 지켜주던 제약을 모두 제거한다는 점에서 ‘탈승화’이고, 동시에 자신들이 적으로 간주하는 이들에게 극단적 폭력을 가하겠다고 선언한다는 점에서 ‘억압적’이다.

이것은 에이아이가 작동하는 특정한 사회적 상황의 산물이다. 디지털 신봉건주의, 자유주의적 파시즘, 새로운 형태의 보나파르티슴 등 아직 적절한 이름이 정해진 것은 아니지만, 분명한 것은 이런 상황이 분명히 실재하며 우리가 모두 그것이 가하는 무게를 느끼고 있다는 점이다. 결국 에이아이의 작동을 이해하려면 빌 게이츠, 일론 머스크, 피터 틸, 제프 베이조스, 마크 저커버그라는 유해한 5인조로 상징되는 디지털 신봉건주의 계급투쟁을 함께 보아야 한다.