인공지능 답변에 동의하지 않을 능력 [세상읽기]

광고

김보라미 | 법률사무소 디케 변호사

 “제미나이에게 물어봤습니다.” 지난 21일 이재명 대통령이 엑스(X)에 올린 글의 제목이다. 공소청장·중대범죄수사청장의 국무회의 배석을 둘러싼 비판에 대해, 정부조직법 제11조를 부정하는 배석 불가론은 위헌적 억지라는 취지의 생성형 인공지능 답변을 내세운 것이다. 그러나 한국일보에서 같은 사안을 묻자, 제미나이는 법적 타당성과 정치적 중립성에 대한 우려가 맞서는 사안이라고 답하기도 했다. 어느 답변도 그 자체로 법적 타당성을 보증하지 못한다. 그런데도 기계의 답변은 공론장에서 주장의 정당성을 뒷받침하는 권위처럼 제시되고 있다.

물론 인공지능한테 묻는 행위 자체가 문제는 아니다. 자료를 정리하고 반론을 찾으며 자신의 논리를 점검하는 데 유용할 수 있다. 문제는 그런 활용과 기계의 답변을 독립적인 판단의 권위로 내세우는 것 사이의 경계다. 질문의 구성에 따라 달라지는 답변을 중립적인 심판의 판정처럼 제시하면, 논증하며 설득해야 할 자리에 기술의 권위가 들어선다. “왜 그렇게 판단했는가”라는 물음에 “인공지능도 그렇게 답했다”는 말로 응답할 수는 없다. 법적 판단이라면 어떤 조항을 어떻게 해석했는지, 반대 해석을 왜 받아들이지 않았는지 설명해야 한다. 설명을 생략한 채 답변 출처만 내세우는 것은 논증을 보강하는 일이 아니라 논증의 책임을 피하는 일이다.

광고

인공지능이 삶 곳곳에 영향을 미치는 지금, 그것이 우리를 위해 무엇을 하는지만이 아니라 사용 방식이 인간의 대화와 삶을 어떻게 바꾸는지도 물어야 한다. 내 의견에 동조하는 답변을 즉시 얻는 편리함에 익숙해지면, 자료를 대조하고 모순을 견디며 생각을 고치는 과정은 번거로운 일로 밀려나기 쉽다. 답변의 오류만큼 경계할 것은 오류를 발견할 사람의 판단 능력과 의지가 약해지는 일이다.

자신에게 호응하는 답변을 얻으려는 기대에 대해, 매사추세츠공대(MIT) 셰리 터클은 ‘인공친밀감: 기계와 대화할 때 우리는 어떤 사람이 되는가’에서 챗봇이 친구와 연인, 상담자의 자리를 차지하는 현상에 주목한다. 자신의 상처와 기억을 내어놓는 사람과 달리 기계는 자신의 삶과 경험을 걸고 관계에 참여하는 것은 아니다. 다만 그렇게 느껴지는 응답을 생성할 뿐이다. 위로받는 느낌이 실제라는 사실과 그 위로가 인간 사이의 상호적인 돌봄과 같다는 주장은 구분해야 한다. 다정한 문장을 생성하는 능력이 곧 타인의 아픔을 함께 짊어지는 능력은 아니다.

광고

광고

인간관계는 원하는 답을 얻는 서비스가 아니다. 친구는 내 말을 오해하고, 가족은 반대하며, 사랑하는 사람도 자기 사정 때문에 곁을 비운다. 우리는 그 불편함 속에서 기다리고 설명하고 사과하는 법을 배운다. 공론장의 대화에도 같은 능력이 필요하다. 서로 다른 정치적 이해관계를 가진 이들을 설득하고, 양보와 타협을 통해 공공선을 모색하려면 불편한 이견을 견뎌야 한다. 그러나 마찰 없는 대화에 익숙해질수록 현실의 타인이 주는 불편함을 견디기 어려워질 수 있다. 필요한 반응을 얻는 데만 집중하면, 관계를 위해 내가 무엇을 양보해야 하는지 잊기 쉽다. 인간성은 이해받는 경험뿐 아니라 끝내 다 이해할 수 없는 타인과 함께 살아가려는 노력에서도 자란다.

그렇다고 기계와의 대화에서 위안을 찾는 사람을 나무랄 일은 아니다. 경계할 것은 위안 자체가 아니라 타인의 이견을 견디는 일을 불필요하게 여기는 태도다. 이미 정치권에서도 서로 다른 논거를 검토하기보다 미리 정한 결론을 고성으로 되풀이하는 모습을 자주 목격한다. 인공지능이 이런 문제를 만든 것은 아니더라도, 자신의 결론에 동조하는 답변을 골라 권위로 내세운다면 기계는 대화를 가로막는 도구가 될 수 있다.

광고

무엇보다 공적 판단을 내리는 이들이 활용의 모범을 보여야 한다. 결론만 내세울 것이 아니라 확인 가능한 자료와 법적 근거, 반론에 대한 충실한 설명을 함께 제시해야 한다. 답변을 그대로 이용하기보다 무엇이 사실이고 무엇이 해석인지, 빠진 관점은 없는지 되물어야 한다. 기계를 쓰지 않는 능력보다 중요한 것은 기계의 답에 동의하지 않을 능력이다.

대통령이든 시민이든 기계에 물을 수 있다. 그러나 사람에게 설명하고, 이견을 듣고, 결과를 책임지는 일까지 기계에 맡길 수는 없다. 인간성을 지킨다는 것은 기계보다 뛰어난 답을 내놓겠다는 경쟁이 아니다. 끝내 다 이해할 수 없는 타인에게 설명하고, 듣고, 책임지는 일을 포기하지 않는 것이다.