“무엇을 AI에 맡기지 않을 것인가”…시민사회, 감시·무단 정보 수집 AI 금지 촉구

참여연대와 남인순·김남근 의원 등은 4일 서울 여의도 국회 의원회관에서 ‘금지AI 규제 마련을 위한 인공지능기본법 개정 토론회’를 열었다. 김은송 기자

시민을 감시하거나 얼굴 이미지를 무단 수집하는 인공지능(AI)의 개발·사용을 법으로 금지해야 한다는 전문가들의 주장이 나왔다. 정부 측은 산업 위축 가능성 등을 고려해 신중하게 검토해야 한다는 입장을 내놓았다.

참여연대와 남인순·김남근 더불어민주당 의원 등은 4일 서울 여의도 국회 의원회관에서 ‘금지 AI 규제 마련을 위한 인공지능기본법 개정 토론회’를 열었다.

발제를 맡은 유승익 참여연대 AI 태스크포스(TF) 위원(헌법학자)은 현행법이 고영향 AI 사업자에게 위험관리 등의 의무를 부과할 뿐, 기본권을 본질적으로 침해하는 AI를 금지하지는 않는 건 문제라고 지적했다.

유 위원은 “인공지능에 의한 기본권 침해는 그 파급력이 광범위할 뿐 아니라 사후적 금전 배상만으로는 원상회복이 불가능한 비가역적 속성을 지닌다”고 말했다. 그는 개인의 행동과 특성을 점수로 매겨 차별하거나, 불특정 다수의 얼굴 이미지를 무단 수집하는 AI 등을 금지해야 한다고 제안했다. 의료·안전 목적을 제외한 직장·학교의 감정인식 AI와 인간의 실질적 통제 없이 타격·살상을 결정하는 AI도 금지 대상에 포함했다.

공권력의 시민 감시에 대한 우려도 나왔다. 최호웅 민주사회를위한변호사모임 디지털정보위원장은 윤석열 정부 당시 대통령경호처가 추진한 AI 개발사업을 언급했다. 그는 “시민의 행동과 생체신호를 분석해 위험인물을 식별·추적하려는 내용이었다”며 “공개된 장소의 실시간 원격 생체식별과 집회·시위 참가자에 대한 자동화된 식별·추적 등을 위한 인공지능 개발·활용을 원칙적으로 법에서 금지해야 한다”고 밝혔다.

의료·교육 현장에서도 금지 기준이 필요하다는 의견이 제시됐다. 정형준 원진녹색병원 대표원장은 “인간의 최종 검토를 배제하는 독립형 자율 인공지능의 의료 이용은 금지”해야 한다고 밝혔다. 권태형 대구하이텍고 전문상담교사는 AI 규제와 함께 교육 현장의 준비도 필요하다고 강조했다. 권 교사는 “교사 연수, 상담 인력 확충, 학부모 이해 교육, 학생이 함께 만드는 AI 사용에 관한 약속 등이 법과 같은 속도로 마련돼야 한다”고 밝혔다.

입법에 앞서 금지 범위와 판단 주체를 명확히 해야 한다는 지적도 나왔다. 정준화 국회입법조사처 입법조사관은 “‘우리 사회는 무엇을 AI에 맡기지 않을 것인가’라는 사회적 선택이 먼저 이루어”져야 한다고 밝혔다. 산업 진흥을 담당하는 과학기술정보통신부가 규제 권한까지 행사하면 구조적 충돌이 생길 수 있다는 우려도 제기했다.

심지섭 과기정통부 사무관은 금지 AI 제도의 취지에는 공감하지만 “어떤 AI 시스템이 금지 AI에 해당하는지 명확히 판단하기 곤란해 산업계를 크게 위축시킬 수 있다”고 밝혔다. 심 사무관은 “개인정보보호법 등 개별법으로 기술 오남용을 제재하는 것이 바람직하다”며 “금지 AI 도입은 폭넓은 의견 수렴을 거쳐 중장기적으로 검토해야 한다”고 말했다.