범죄 잡는 인공지능, 생사람은 안 잡을까…AI에 ‘권한 위임’ 적정선 고민해야

구글 선호 매체 등록

광고

2026년 1월13일 서울 강동구의 한 골목에서 30대 남성 ㄱ씨가 50대 여성 ㄴ씨를 따라가 넘어뜨리고 골절상을 입히는 사건이 일어났다. ㄱ씨는 고의성이 없었다며 범행 의사를 부인했지만, 검찰은 인공지능(AI) 영상분석 모델을 비롯한 법과학 분석을 통해 ㄱ씨가 고의로 ㄴ씨를 넘어뜨렸다는 점을 밝혀내 6월 기소했다.

AI가 범죄를 잡을 수 있다는 주장이 제기된 것은 컴퓨터 발달이 상당 부분 이뤄진 1990년대부터 등장한다. 이런 내용을 대중에게 널리 퍼뜨린 것은 2002년 개봉한 영화 ‘마이너리티 리포트’다. 2054년 미국 워싱턴 지역을 가정한 이 영화에서는 범죄가 일어나기 전 범죄행위 발생을 예측해 예비 범죄자의 행동을 미리 차단하는 ‘프리크라임’이라는 최첨단 치안 시스템이 등장한다. 물론 영화는 인간인 ‘예지자’들의 머릿속 생각을 변환시켜주는 기계 장치가 나오는 설정이지만, 기계(컴퓨터)가 무언가를 보여주고 안구인식 같은 실행까지 한다는 요소가 등장하면서 사람들은 AI가 무언가를 예측하고 스스로 움직이는 것까지 할 수 있다는 개념에 익숙해졌다.

공수 양면에 쓰이는 AI

광고

상상의 나래를 넘어 AI가 본격적으로 현장에 적용된 때는 우리나라 기준으로 약 10년 전이다. 2016년을 기점으로 기계학습(머신러닝) 개념이 정립되고 현장에 적용 가능한 소프트웨어가 등장하면서 그 움직임이 구체화됐다. 이후 금융감독원, 국립과학수사연구원, 사이버보안 기업 등 여러 기관에서 범죄행위에 나타나는 반복적인 행태와 유형을 컴퓨터가 학습하고 분석해 수상한 움직임이나 거래를 잡아내는 시스템 도입이나 기관 간 협력을 본격적으로 한다.

AI가 대세가 된 지금, 이제 AI는 범죄와도 떼려야 뗄 수 없는 존재가 돼버렸다. AI는 음성이나 영상 위변조, 해킹 공격 같은 분야에서 널리 쓰인다. 유명 인사나 지인, 가족의 이미지와 목소리를 이용해 가짜뉴스를 만들거나 실재하지 않는 모습을 만들어내는 딥페이크(Deepfake) 문제는 이미 선거전에서 흑색선전이나 타인의 명예훼손, 잘못된 욕망 해소를 위한 폭력적인 수단으로 변질되고 있다.

광고

광고

이에 반해 범죄 잡는 조사, 수사 단계에서도 AI를 통한 정의 실현이 이뤄지고 있다. 앞에 소개한 영상 분석을 비롯해 해킹 공격 방어, 딥페이크나 표절 등의 판독에도 AI가 활용된다. AI가 공격과 수비 양쪽에서 모두 쓰이는 것이다.

보이스피싱은 AI가 정면 대결하는 대표적 분야라고 할 수 있다. 보이스피싱을 시도하는 범죄세력은 음성 변조 등 다양한 기술을 도입해 피해자를 속이려 하고, 이를 막으려는 정부 기관 역시 전화 대화나 피해자의 행동 등을 종합 분석한 AI 플랫폼으로 피해를 최소화하고 나아가 예방하는 방향으로 진화하고 있다. AI 기술을 두고 공수 양쪽에서 치열한 경쟁을 벌이는 셈이다.

광고

AI가 만든 억울한 고통

“열 명의 범죄자를 놓치더라도 한 명의 무고한 사람이 고통받으면 안 된다.” 이 말은 수사기관에서 항상 잊지 말아야 할 금언으로 여겨진다. 무죄추정의 원칙이 중요함을 이르는 말로, 범죄자 단죄보다 더 중요한 것은 죄가 확정되기 전까지는 누구나 억울함이 없도록 가능성을 열어둬야 함을 의미한다.

현재의 AI 기술은 아직 입력되는 자료와 설계자, 이용자의 편향성을 완전히 제거하는 일은 불가능하다. 아니, 어쩌면 인간이 발명해낸 ‘인공적 지능’이란 개념은 결국 태생적으로 인간이 갖기 마련인 편향성에서 완전히 자유롭기 어려운지도 모른다. 문제는 우리가 AI의 판단 능력에 상당 부분 맹신과 의존을 하고 있다는 점이다. 인간이 놓칠 수 있는 부분까지 모두 잡아내 완벽한 판단을 하는 존재로 인식하는 상황은 장차 억울한 고통을 만들 소지가 있다.

미국에서도 몇 차례 억울한 사례가 나와 논란이 됐다. 2026년 3월 뉴욕타임스 등에 따르면 테네시주 엘리자베스턴에 거주하는 50대 여성이 방문하지도 않은 지역에서 발생한 금융사기 사건 조사 과정에서 유력한 용의자라는 이유로 5개월간 옥살이를 했다. 조지아주에 거주하는 20대 남성 역시 소셜미디어에 올린 사진과 용의자의 모습이 유사하다는 이유로 일주일가량 구금됐다. 두 사건 모두 수사기관이 AI 얼굴인식 프로그램의 분석 결과만 갖고 이들을 범죄자로 특정하면서 이런 사태가 벌어졌다는 공통점이 있다.

광고

AI 발전은 창작물의 표절 논란으로도 연결된다. 2025년 말 언론에서 크게 다뤄진 의제 중 하나는 AI 표절 검사의 신뢰성 논란이었다. 대학가와 기업 채용 담당자가 제출된 문서에 대해 표절 여부를 검사하는 과정에서 쓰는 AI 도구가 문법적으로 완성도가 높을수록 표절로 간주하는 경향이 크다는 지적이 나왔다.

최근에는 기존 음원들을 학습한 뒤 이용자가 원하는 음원을 만들어주는 서비스도 유행하는데, 이 역시 전통적 기준에서는 유사성 논란이 불거지고 있다. 실제 미국 기업 수노(Suno)는 독일 뮌헨 법원으로부터 독일 음악저작권협회(GEMA) 소속 회원들의 동의를 받지 않고는 음원을 제작하면 안 된다는 판결을 받기도 했다.

AI에 전권을 줄 수 없는 이유

이처럼 억울함을 만드는 사례가 늘어나고 있기에 전문가들은 “AI 도구는 아직 ‘보조적 수단’에 머물러야 한다”는 주장을 내놓는다. 마치 AI가 모든 것을 완벽하게 해내는 듯하지만 여전히 빈틈이 많은 기술적 한계가 있는 만큼 맹신하면 안 된다고 지적한다. 개발자 사이에서 한때 유행한 밈(Meme·유행 콘텐츠)은 ‘사람들이 생각하는 AI’는 지구를 지배하는 무시무시한 존재로 그려지는 반면, ‘내가 실제로 개발한 AI’는 고양이를 보고 ‘이건 강아지야’라고 말하는 내용을 담고 있다. 아직은 AI가 우리 곁에 온 정도일 뿐, 우리를 완전히 대체하거나 완벽하게 신뢰할 수 있는 판단을 내리는 수준은 되지 못한다는 이야기다.

AI는 분명 사람이 놓치기 쉬운 부분이나 실수를 잡아내고 보완하는 역할을 한다. 그렇기에 사람들은 AI를 믿을 수 있는 파트너라고 생각한다. 하지만 AI에 전권을 주는 것은 또 다른 문제다. 사람이 하지 않을 실수를 하고, 사람이 하지 않을 행동을 할 수 있다. 세종대왕이 격노해 노트북을 집어 던진 사건이 있었다는 식으로 제멋대로 정보를 짜깁기해 엉뚱한 답을 내놓는 환각(Hallucination) 문제부터, 입력된 데이터의 편향성에 따른 특정 인종에 대한 차별적·혐오적 발언을 여과 없이 뱉어내 사용을 중단하는 문제를 우리는 겪어봤다. 이런 AI에 인간에 대한 모든 것을 맡겨버린다면, 억울한 고통을 겪는 사람이 계속 나올 것이다. AI가 인간을 파괴하는 디스토피아가 아닌, AI가 인간 세상을 더욱 살기 좋은 곳으로 만들게 해주는 유토피아로 나아가려면 기술적 수단에 대한 검증과 비판을 계속해야 한다.

AI의 기술 수준이 높아지면서 영상, 음성, 글에 이르기까지 인간이 만들어내는 모든 것을 AI가 분석하고 성격을 판단하거나 미래를 예측하는 일이 늘어나고 있다. 지금은 산업 현장에서 제품의 불량 발생이나 이상을 판단하는 정도로 활용되지만 점차 자율주행 확산이나 치안, 예술 등 인간의 주관적 요소에 대한 개입이 늘어날수록 인간과 충돌하는 지점도 더욱 늘어날 것이다. 나쁜 것을 잡던 AI가, 괜한 것까지 태클을 거는 AI가 되지 않도록 그 대안을 깊이 고민해야 할 때가 왔다.

이재운 자유기고가 damoyer0813@naver.com

사물인터넷과 빅데이터를 지나 인공지능 시대까지, 짧은 기간에 큰 변화가 일어난 역사를 함께해온 40대 칼럼니스트. 점점 강해지는 인공지능 앞에서 마지막 자존심을 지켜보려 노력하고 있다.