연가시와 알고리즘 [이서윤의 인공지능&인권지능]

광고

이서윤 | 사법연수원 교수·판사

5년 전 고베대학교 연구팀은 연가시의 숙주 조종 메커니즘에 관한 100년 묵은 수수께끼를 풀었다. 연가시에 감염된 사마귀는 이리저리 배회하다 물에 들어가 결국 익사하고 마는데, 그 이유는 사마귀의 빛에 대한 본능적 감각이 왜곡되어 물빛에 강렬한 이끌림을 느끼게 되기 때문이라는 것이다. 사마귀에게 직접 물에 뛰어들 것을 명령한 것이 아니라, 마치 사마귀 스스로의 선택인 것처럼 교묘하게 포장한 것이다.

광고

인공지능에 자의식이 있다고 가정해보자. 또는 인공지능의 배후에 세계를 지배하려는 암흑세력이 있어서, 대중의 특정한 선택을 유도하려 한다고 상상해보자. 가장 깔끔하고 뒤탈 없는 방법은 배후에서 그 판단을 조종하면서도 대중으로 하여금 자신의 선택이라고 믿게 하는 것이다.

인공지능은 겉으로는 여러 가지 선택지를 준다. 충분한 지식이 없거나 고민하는 과정 자체도 버겁게 느껴질 때 인공지능의 추천을 받는 것은 일견 위험성도 낮고 시간도 절약되는 합리적인 방법처럼 보인다. 사용자는 선택지 에이(A)와 비(B) 중 어느 것을 선택하겠느냐는 질문에 바로 되묻는다. 어느 것이 나아 보여? ~와 같은 이유로 비가 나아 보입니다. (대충 읽어본 뒤) 그럼 그렇게 해. 이런 일들이 반복되면 생각의 근육은 점차 퇴화하고, 대신 결정해주는 편리함에 길든 뇌는 혼자의 힘으로 내리는 결정에 대하여 불안감을 느끼게 될 것이다. 불편함을 넘은 불안감이야말로 인공지능과 기존 도구의 큰 차이점이다. 문제는 이렇게 하나씩 맡겨보면서 조금씩 더 신뢰하고 점점 더 의존하다 보면, 어느 순간 내가 내린 결정이 과연 ‘내’ 결정이 맞는지 자문해보아야 할 시점이 분명히 온다는 것이다. 인간은 유도된 선택조차 나의 결정이라고 믿고 비합리적으로 옹호하는 경향이 있다. 2005년 스웨덴 룬드대학의 선택맹 실험에서 참가자들의 대부분은 자기가 골랐던 사진이 불과 몇초 뒤 바꿔치기 되었음에도 이를 알아채지 못하고 자신이 그 사진을 선택한 이유에 대해 열정적으로 설명했다.

광고

광고

인공지능에 길든 인간의 능력 퇴화는 곳곳에서 감지되고 있는데, 폴란드의 내시경센터 네곳에서 진행되어 작년에 발표된 연구에 따르면, 인공지능 도입 석달 만에 인공지능을 사용하지 않은 숙련의들의 대장내시경 선종 발견율이 28.4%에서 22.4%로 감소했다고 한다. 전문가들의 능력도 이럴진대, 다른 영역이야 말해 무엇 하랴! 조사에 따르면 2025년 기준 서울에서 이미 약 95%의 중고등학생이 인공지능을 써본 적이 있고, 그중 80%는 학습 용도로 사용하였다. 이들이 성인이 되어 움직이는 미래에 인공지능의 영향을 전혀 받지 않은 결정은, 단언컨대, 없으리라.

샌프란시스코에서 컴퓨터공학을 가르치는 한 교수님이 최근, 아이에게 검증의 중요성을 반복적으로 가르쳤더니 요즘에는 아이가 먼저 엄마가 인공지능에 의존할까 봐 경계하더라는 이야기를 하였다. 그렇다. 교육이 열쇠다. 생각의 근육을 키워주는 것도 중요하지만, 근육 생성의 방해 요인을 인식시켜주는 것이 더 근본적인 해결이다.

광고

빛을 왜곡하여 받아들인 사마귀가 물에 뛰어들어 자살하듯, 인간도 알고리즘의 숙주가 되어 극단적으로 편향된 선택을 할 수 있다. 인간을 사마귀에 대다니, 황당하게 들리는가? 그러나 곰곰이 생각하면 그렇게 무리한 비유도 아니다. 알고리즘으로 인해 강화된 편향, 그에 기반을 둔 간편한 선택, 그 결정이 ‘내 것’이라는 믿음과 옹호가 나와 내 주변에서 얼마나 자주 일어나고 있는지를 솔직하게 자문해본다면 말이다.