[단독] 정부 첫 ‘고영향 AI’ 판정은 ‘범죄 수사용 얼굴인식’ 기술

광고

과학기술정보통신부가 인공지능기본법 시행 뒤 범죄 수사에 활용할 목적으로 개발된 인공지능 기술 2건을 ‘고영향 인공지능’으로 판정한 것으로 확인됐다. 지난 1월 법 시행 뒤 정부가 고영향 인공지능으로 판정한 첫 사례다. 고영향 인공지능이란 보건의료, 범죄 수사 및 체포, 공공서비스 등 10개 영역에서 사용되는 인공지능 기술 가운데, 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 시스템을 뜻한다.

이주희 더불어민주당 의원실이 15일 과기정통부에서 제출받은 자료를 보면, 과기정통부는 인공지능기본법이 시행된 지난 1월22일부터 이달 1일까지 기업에서 받은 ‘고영향 인공지능 해당 여부 확인 요청’ 16건을 처리했다. 이 가운데 2건은 고영향 인공지능에 해당한다고 판단(1건은 일부 기능만 고영향에 해당)했고, 12건은 비해당, 2건은 반려 처리했다.

사업자는 자신의 서비스가 고영향에 해당하는지 사전 검토해야 하고, 판단이 어려울 때는 과기정통부에 확인 요청을 할 수 있다. 고영향 인공지능으로 분류될 경우 이용자에게 인공지능 기반 서비스임을 알리고 위험관리·이용자 보호·사람의 관리 감독 방안 등을 수립하고 이행해야 한다. 과기정통부는 위험관리 등 책무 위반이 의심되는 경우 사실조사에 나선 뒤 시정명령을 내릴 수 있고, 이를 따르지 않는 사업자에 3천만원 이하 과태료를 부과할 수 있다. 정부는 법 시행 뒤 사실조사와 과태료 부과를 유예하는 계도기간을 최소 1년 이상 두겠다고 밝힌 상태다.

광고

과기정통부가 고영향으로 판단한 두 사례 모두 범죄 수사용 얼굴 인식 기술이다. 인공지능 기반 3차원 얼굴 인식 기술을 활용해 반복적으로 범인을 식별하는 ‘용의자 탐색 및 수사 지원 시스템’의 경우, 안면 정보 등 생체 인식 정보를 분석·활용했다는 사유로 고영향 판정을 받았다. 아울러 얼굴인식·정면 예측·딥페이크 탐지·얼굴복원 등 4가지 기능을 결합한 인공지능 시스템에 대해서도 일부 고영향 판정을 내렸다. 얼굴인식 기술의 경우 특정 사건 범인 판단을 위해 생체적 특징을 활용해 기본권 침해 위험이 있다는 이유에서다.

반면, 주민등록증 발급자 정보를 시스템에서 처리하는 과정에서 활용되는 인공지능 기술에 대해선 통상 업무의 단순 자동화에 해당해 고영향이 아니라고 판단했다. 눈 안쪽의 망막 등을 촬영한 안저 영상을 분석해 안질환 진단을 돕는 소프트웨어는 의료인의 최종 판단을 지원하는 보조 도구에 해당한다는 이유로 고영향 인공지능에 해당하지 않는 것으로 판단됐다. 해당 법 시행령과 과기정통부의 판단 가이드라인을 종합하면, 고영향 여부는 위험의 중대성·빈도·활용영역의 특수성을 종합적으로 따지고, 인공지능 판단 결과를 사람이 실질적으로 검토·평가할 수 있을지도 함께 고려한다. 과기정통부는 이달부터 산업 실태조사 등을 통해 기업의 의무 이행 현황 파악에 나설 계획이다.

광고

광고

이주희 의원은 “고영향 인공지능 판단은 국민의 생명·안전과 기본권에 직결되는 문제인 만큼, 기준이 현장에 명확하게 전달돼야 한다”며 “계도기간에 제도가 안착될 수 있도록 관련 부처가 적극적인 역할을 해야 한다”고 말했다.