기만과 적발의 대결 속 신뢰 없는 기술이 교육 망친다

구글 선호 매체 등록

광고

‘당신의 글을 좀 더 인간적으로 만들어 보세요’라는 문구를 클릭한 적이 있다. 소셜미디어에서 광고를 클릭하지 않는다는 원칙을 깬 것이었다. 기대했던 건 문장을 다듬는 작가의 노하우였으나 실제로 만난 건 ‘에이아이 휴머나이저(AI Humanizer)’라고 불리는 소프트웨어 광고. 7일간 시험판을 사용해본 후 정식으로 구독하라는 말에 쓴웃음이 나왔다. 나는 에이아이 휴머나이저를 미워할(?) 수밖에 없는 교수자의 위치에 있기 때문이다.

광고

‘인간화하다’, ‘인간적으로 만들다’라는 뜻을 가진 ‘humanize’의 뜻에서 유추할 수 있듯이 에이아이 휴머나이저는 에이아이가 생성한 글을 인간이 쓴 것처럼 만들어 준다. 사용자가 입력한 글의 어휘, 문장 구조, 표현 등을 적절히 변형해 인공지능 판별 소프트웨어를 우회한다. 인공지능이 생성한 텍스트를 에이아이 휴머나이저에 붙여넣고 텍스트를 재생성하면 인공지능 판별기가 사람이 썼다고 판단할 확률이 높아진다는 것이다.

유의할 점은 에이아이 휴머나이저도 인공지능 판별기도 완벽하지 않다는 것. 여기에는 두 가지 요인이 작동한다. 우선 이들 소프트웨어가 확률에 기반한 알고리즘을 사용한다는 것이다. ‘확률적’이라는 말은 오류가 있을 수 있음을 함의한다. 더 근본적인 요인은 애당초 인공지능이 인간의 글을 통계적으로 처리해 텍스트를 생성한다는 점이다. 따라서 인간과 인공지능의 글을 칼로 무 베듯 가를 수 있는 완벽한 기준은 있을 수 없다.

광고

광고

에이아이 휴머나이저와 인공지능 판별 소프트웨어는 때로 ‘창과 방패’처럼 기능한다. 일부 학생은 과제에 인공지능 활용을 금지하는 정책을 무시하고 인공지능을 활용한다. 그 와중에 점수에 불이익을 받는 것을 원치 않기에 에이아이 휴머나이저를 동원한다. 이때 에이아이 휴머나이저는 ‘기만의 도구’가 된다. 일부 교수자는 인공지능을 사용한 학생을 알아내기 위해 인공지능 판별기를 활용한다. 이때 인공지능 판별기는 ‘적발의 도구’로 기능한다. 기만과 적발이 서로를 겨눌 때 우리가 잃어버리는 것은 서로에 대한 신뢰이다. 학습자는 교수자의 교육철학을 신뢰하지 못하고, 교수자는 학습자의 학문적 정직성을 신뢰하지 못한다. 신뢰가 사라진 수업은 교육이라기보다 거래에 가깝다.

이런 상황에서 교수자는 어떤 길을 가야 할까? 작년과 올해 내가 견지하는 원칙은 인공지능을 전면 금지하지도, 전면 허용하지도 않는 ‘애매한’ 길이다. 학생들이 인공지능을 최대한 신중하게 사용하기를, 혹시 사용했다면 어떻게 사용했는지 투명하게 밝혀 주기를 바란다. 시간을 아끼려는 욕망에 투항하기보다 살뜰히 단어를 고르는 기쁨을 알아가기를 바란다. 이런 마음을 담아 작성한 두 쪽을 훌쩍 넘는 인공지능 사용 가이드라인에는 이런 구절이 있다.

광고

“저는 ‘금지’와 ‘허용’의 언어를 쓰지 않으려 합니다. 다만 저는 교수자로서 이 강의의 성격과 목표를 염두에 두고 여러분들께 저의 철학을, 인공지능 리터러시 연구자로서 연구하고 정리한 바를 전달하고자 합니다. 여러분은 스스로의 배움을 책임질 수 있는 충분한 역량을 갖추고 있습니다. 감시자본주의가 우리의 일거수일투족을 들여다보는 상황에서 강의실까지 감시의 공간으로 만들고 싶진 않습니다”

운 좋게도 아직까지는 무분별하게 인공지능을 사용하는 학생이 많지는 않다. 하지만 사용 빈도와 범위가 조금씩 늘어나고 있음을 느낀다. 이 가운데 나의 순진한 제안이 앞으로도 유효할지 확신할 수는 없다. 그럼에도 학생 스스로 숙고하고 판단할 기회를 주고자 한다. 그들이 배움의 주인이 되어 노동을 소중히 여기는 필자로 성장할 수 있다는 희망을 거두고 싶지 않다. 무엇보다 기계적 공정에 매달리기보다는 서로를 진실하게 마주할 수 있는 우리가 될 수 있다는 믿음을 간직하고 싶다. 신뢰 없는 기술은 교육을 망치는 법이니까.