AI와 대화 내용이 서면에 그대로…법관 80%가 “허위 판례 경험”

일러스트 | NEWS IMAGE

최근 한 판사는 재판 과정에서 원·피고 측 대리인이 제출한 서면을 보다가 깜짝 놀랐다. 변호사가 근거로 들어 주장한 대법원 판례가 이상해서 찾아보니, 인공지능(AI)이 만들어낸 가짜 사건번호였다.

이처럼 AI가 허위 판례나 사건을 만들어내는 ‘할루시네이션(환각)’ 현상이 실제 재판 과정에서도 심각한 문제로 떠오르고 있다. 민사·가사·행정 사건을 담당하는 법관 10명 중 8명이 허위 판례 등이 인용된 사례를 경험했다는 조사 결과도 나왔다.

대법원 법원행정처는 2일 이런 내용의 ‘AI 허위판례 등 인용 관련 설문조사’ 결과를 발표했다. 지난달 6~16일 각급 법원 법관을 대상으로 설문을 진행해 총 360명이 응답했는데, 응답자의 80%가 허위·부존재 판례 등이 인용된 사례를 경험했다고 답했다.

구체적인 유형으로는 ‘존재하지 않는 판례 인용’이 196명(80.7%)으로 가장 많았다. ‘허위 판례 인용’이 159명(65.4%)으로 뒤를 이었고, ‘허위·부존재 법령 인용’ 41명(16.9%), ‘허위·부존재 논문·문헌 등 자료 인용’ 10명(4.1%) 순이었다. 복수 응답 결과다.

가짜 판례를 인용한 주체도 일반 소송 당사자에 그치지 않았다. 허위 판례 등을 인용한 주체로 ‘당사자 본인’을 선택한 법관은 164명(69.5%)으로 가장 많았지만, ‘변호사인 소송대리인 또는 변호인’을 선택한 법관도 136명(57.6%)에 달했다. 법률 전문가인 변호사가 제출한 서면에서도 존재하지 않거나 내용이 왜곡된 판례가 적지 않게 발견됐다는 의미다.

법관들이 실제 겪은 사례를 보면 AI가 생성한 허위 판결서를 대법원 판결서 형식 그대로 제출한 경우가 많았다. 처음 보는 법리와 함께 대법원 사건번호를 기재했지만, 실제로 검색해보니 해당 판례가 존재하지 않는 것이다. 실제 판결의 내용을 임의로 변경하거나 판결 취지와 다르게 인용한 경우도 있었다. 심지어 AI와 나눈 대화 내용이나 소송 전략에 관한 문구가 소송 서면에 그대로 포함된 사례도 파악됐다.

이 같은 허위 판례 인용은 재판 지연과 소송 부담 증가로 이어질 수 있다. 존재하지 않는 판례를 실제 판례인지 확인하고 반박하는 데 불필요한 시간과 비용을 들여야 하기 때문이다. 특히 변호사 없이 직접 소송을 진행하는 당사자는 허위 인용을 찾아내거나 대응하는 데 어려움을 겪을 수 있다.

이에 조사 응답자의 91.7%는 허위 판례 인용에 대한 제도적 대응이 필요하다고 답했다. ‘매우 필요하다’는 응답도 64.8%에 달했다. 구체적인 대응책으로는 과태료 부과 근거 마련이 215명(61.4%)으로 가장 많았고, 인용 판례 등에 대한 검증의무 부과 214명(61.1%), AI 활용 사실 기재의무 부과 212명(60.6%), 변호사 징계의뢰 등 제재방안 마련 194명(55.4%) 순이었다.

법원행정처는 이번 조사 결과를 토대로 민사소송법과 형사소송법 개정 등을 통한 대응 방안을 검토하기로 했다. 허위 판례 인용에 과태료를 부과할 법적 근거를 마련하기 위해 법무부 등 관계기관과 협의하고 국회에도 의견을 제출할 예정이다. 전자소송 사이트에 AI 활용 시 유의사항을 안내하는 방안도 도입한다.