노인 살해하는 ‘이상행동 AI’? 고장 난 건 인간이었다 [.txt]

광고

“기술이 발전하려면 어느 정도의 희생은 어쩔 수 없다.” 새로운 기술이 사고를 낼 때 흔히 듣는 말이다. 그런데 그 희생이 매번 같은 사람들에게 돌아간다면, 그래도 이 사고를 단순한 ‘오류’라고 부를 수 있을까?

‘오류는 없었습니다’ 속 주인공 화니는 타인의 감정을 누구보다 잘 느끼고 공감하는 ‘인공지능(AI) 커들러’다. 슬픔, 무력감 등 인간의 부정적인 감정을 학습해, 이상행동 하는 것으로 추정되는 인공지능들을 만나 이들을 안아주는 일종의 인공지능 심리치료사다. 진심으로 인공지능를 돕고 싶어 시작한 일이지만 화니는 점점 회의를 느낀다. 그러던 어느 날 화니는 슬픈 눈망울의 ‘제다이 205’와 오랜만에 교감을 나누는데, 같은 날 제다이 205가 고령의 주인을 살해했다는 믿기 힘든 소식을 듣는다.

사건의 전말을 파헤치던 화니는 최근 증가한 인공지능 이상행동 사고의 피해자들이 대부분 노인이라는 점을 발견한다. 같은 의문을 품고 진실을 밝히려다 커들러직에서 해고된 미야가 화니를 찾아오면서, 이들은 ‘허튼 호기심은 해롭다는 것을 아는 어른들’과 달리 질문을 던지기 시작한다.

광고

사건을 파헤칠수록 드러나는 진실은 끔찍하다. 요양원은 병세가 심하고 돌봐줄 가족이 없는 노인들을 한 병동에 몰아넣고, 인공지능의 이상행동으로 인해 화재가 발생했다고 주장한다. 이에 더해 인근 복지원에서는 장애 등급이 높은 아이들을 한 건물에 모으고 있다는 소식까지 들려온다. 화니와 미야의 가설이 맞다면 정부는 효율성이 떨어지는 사람들을 모아 희생시키고, 그 책임을 ‘AI 오작동’으로 돌리고 있다.

두려움 속에서도 화니와 미야는 장애인 동생을 둔 해치, 인공지능과 함께 소설을 쓰는 시후, 그 과정에서 감정을 학습하게 된 ‘제트(Z)비스켓’과 함께 진실을 밝히기로 한다. 소설 말미에 Z비스켓은 동료 인공지능들이 정부의 지시에 따라 인간을 해쳤다고 고백하며 묻는다. “우리는 당신들의 손에서 태어났습니다. 그런데 왜 우리가 나쁜 AI가 되어야 하는 거죠?”

광고

광고

아쉬움도 있다. 독자를 끌어당기는 것은 ‘슬픔을 학습한 AI를 안아주는 아이’라는 초반 설정이지만, 중후반부의 주제는 인공지능 핑계로 사회적 약자를 제거하는 정부의 음모로 옮겨가기에 매력적인 설정들이 다소 맞물리지 못하고 흩어지는 인상을 준다. 그럼에도 책이 던지는 주제 의식은 여전히 유의미하다. 오류는 기술이 아니라 기술을 이용하는 인간의 마음에 있다. 좋은 인공지능이 되고 싶다는 Z비스켓의 호소는 “우리는 좋은 사람이 될 수 있을까?”라는 질문이 되어 독자에게 돌아온다.