경찰대 연구 "AI 대테러, 인권 보호해야 효과도 높아"

조정혜 경위 국제학술지 논문…정보 수집 최소화·알고리즘 투명성 확보 제안

이미지 확대

(서울=연합뉴스) 한지은 기자 = 인공지능(AI)을 활용한 예방적 대테러 활동에서 인권 보호가 정책의 실효성과 지속가능성을 좌우한다는 연구 결과가 나왔다.

경찰대학 치안정책연구소는 조정혜 경위가 이런 내용을 담은 논문을 스코퍼스(SCOPUS) 등재 국제학술지 '시큐리티 앤드 휴먼 라이츠'(Security and Human Rights)에 게재했다고 15일 밝혔다.

논문은 유엔 인권최고대표사무소(OHCHR)의 원칙을 분석 기준으로 삼아 AI 기반 대테러 전략의 효과성과 인권침해 위험을 살폈다.

주요 위험으로는 대규모 정보 수집·감시에 따른 사생활 침해, 알고리즘 편향으로 인한 차별적 표적화, AI 판단 과정에 대한 설명 부족으로 인한 적법절차 훼손을 제시했다.

광범위한 감시와 불명확한 판단 기준은 시민의 신뢰를 떨어뜨리고, 예측 오류는 치안 자원의 비효율적 배분으로 이어질 수 있다고 분석했다.

특정 집단에 대한 과도한 권리 제한은 소외와 반발을 심화시켜 장기적으로 급진화 위험을 높일 가능성도 있다고 봤다.

이에 AI 활용의 명확한 법적 근거를 마련하고, 정보 수집·분석 범위를 필요한 최소한으로 제한해야 한다고 제안했다.

알고리즘의 투명성과 판단 근거를 설명할 수 있는 체계를 확보하고, 독립적 감시체계를 구축하는 것도 과제로 꼽았다.

경찰대학은 이번 연구에 대해 "AI를 활용한 예방적 대테러 활동의 가능성을 인정하면서도 기술적 효율성과 인권 보호가 상호 보완적으로 작동할 수 있는 제도적 조건을 제시했다는 점에서 의의가 있다"고 평가했다.

writer@yna.co.kr

제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지> 2026년11월15일 09시00분 송고