민사·가사·행정 판사 10명 중 8명 “AI로 조작된 판례 인용 경험”

광고

민사·가사·행정 사건을 담당하는 판사 10명 중 8명이 인공지능(AI)으로 내용이 조작된 판례를 접한 경험이 있는 것으로 나타났다.

대법원 법원행정처가 지난달 6일부터 16일까지 각급 법원 법관 360명을 대상으로 진행한 ‘인공지능 허위 판례 등 인용 관련 설문조사 결과’를 2일 보면, 전체 응답자 가운데 민사·가사·행정 담당 판사 약 80%가 허위·부존재 판례 등이 인용된 사례를 경험했다고 답변했다.

유형별로는 부존재 판례 인용이 196명(80.7%)으로 가장 많았고 허위 판례 인용(65.4%), 허위·부존재 법령 인용(16.9%), 허위·부존재 논문·문헌 등 자료 인용(4.1%)이 뒤를 이었다. 허위 자료를 제출한 주체로는 소송 당사자 본인이라는 응답이 164명(69.5%), 소송대리인 또는 변호인을 택한 응답이 136명(57.6%)이었다. 당사자 본인뿐 아니라 변호사가 제출한 서면에서도 허위·부존재 판례 등의 인용 사례가 다수 확인됐다는 것이다.

광고

구체적인 사례를 보면 대법원 판결서 형식을 그대로 차용해 인공지능으로 생성한 허위 판결서를 제출하거나, 처음 보는 법리와 함께 대법원 사건번호를 기재했으나 해당 판례가 검색되지 않는 등의 사례가 있었다. 실제 판시 내용을 변경하거나 판결의 취지와 다르게 인용, 인공지능과의 대화 내용이나 소송 전략에 관한 문구가 서면에 그대로 포함된 경우도 있었다.

응답자 대부분은 ‘제도적 대응 방안 마련이 필요하다’(91.7%)고 답했다. 주요 대응 방안으로는 △과태료 부과 근거 마련(61.4%) △인용한 판례 등의 검증 의무 부과(61.1%) △인공지능 활용 사실 기재 의무 부과(60.6%) △변호사에 대한 징계 의뢰 등 제재방안 마련(55.4%) 등이 꼽혔다.

광고

광고

법원행정처는 “허위 인용은 소송 상대방에게 불필요한 확인·반박 부담을 지울 수 있고, 재판의 신속한 진행을 저해할 수 있다”며 “민사소송법·형사소송법 개정을 통해 과태료 부과 등 근거 규정을 마련할 필요가 있다. 법무부 등 관계기관과 협의해 국회에 의견을 제출할 예정”이라고 밝혔다.