“저위험 단계는 자율규제, 최첨단 모델은 외부 평가·최소 안전기준 의무화 필요”

기업들 ‘AI 위험 커진다’면서도
시장 경쟁 탓 개발·출시 못 멈춰
미·중 ‘좁은 협력’서 출발 현실적
한국, 혁신 추진하며 위험 관리를

인공지능(AI)을 현재 수준까지 끌어올린 것도, 인류를 멸망시킬 수 있다며 속도 조절에 나서자고 하는 것도 모두 AI 기업들이다. 최재필 미국 미시간주립대 경제학과 석좌교수(66·사진)는 지난 5월 ‘AI 안전과 경쟁’ 논문에서 AI 시장의 강한 경쟁구조가 안전 부실로 이어질 수 있다고 지적했다.

기업들이 충분한 안전 검증을 거치지 않고 AI 모델을 조기 출시하는 ‘바닥을 향한 경쟁’이 심해질 수 있다는 것이다.

최 교수는 30일 경향신문 서면 인터뷰에서 “위험이 낮은 단계에서는 자율규제를, 일정한 위험 임계치를 넘어서는 최첨단 AI 모델에는 외부 평가와 최소 안전 기준을 의무화하는 방식의 절충안”을 제시했다.

그는 “기업들이 스스로 AI 위험이 커지고 있다고 이야기하면서도 동시에 개발과 출시 경쟁에서는 물러나지 못하고 있다”고 말했다. 모든 기업이 조금 천천히 개발하면서 안전 검증을 강화하는 것이 바람직하지만, 포모(FOMO·뒤처질지 모른다는 두려움)가 작동하면서 어느 한 기업도 혼자 속도를 줄이지 못한다고 봤다.

최 교수는 “중요한 것은 기업의 의도를 평가하는 데 그치기보다, 안전을 중시하는 기업조차 경쟁 때문에 위험한 선택을 하게 만들 수 있는 시장구조를 개선하는 것”이라고 했다.

최 교수는 ‘기업의 규모가 아니라 AI 모델이 실제로 가진 위험 능력에 비례해 안전 기준을 적용하는 방안’을 제시했다. 미국 일부 AI 기업을 중심으로 한 안전 기준 마련은 후발주자들에 진입장벽이 될 수 있고, 작은 모델이나 위험성이 낮은 서비스까지 동일한 수준으로 규제할 필요는 없어서다.

최 교수는 “기업의 기술적 전문성은 충분히 활용하되 정부와 독립적인 연구기관, 국제기구 등이 함께 기준을 만들고 검증하는 것이 바람직하다”고 말했다. 이어 “비교적 위험이 낮은 단계에서는 자율규제를 활용하고, 일정한 위험 임계치를 넘어서는 최첨단 모델에는 외부 평가와 최소 안전 기준을 의무화하는 방식이 현실적인 절충안”이라고 했다.

그러나 국제협력은 요원한 상태다. 최 교수는 “처음부터 미국과 중국이 AI 개발 전체를 제한하는 포괄적인 협정을 맺는 것은 매우 어렵다”며 “양국 모두 명백한 손해라고 인식하는 위험부터 좁게 협력하는 것이 현실적”이라고 했다.

AI를 이용한 대규모 사이버 공격, 생물학적 위협, 핵무기 관련 위험 등 양국 모두 피해자가 될 수 있는 위험 분야에서 사고 보고, 공통 평가방식, 비상연락 체계 등 최소한의 안전장치를 마련하는 게 국제협력의 출발점이 될 수 있다.

후발주자인 한국은 실용적인 접근이 필요하다고 봤다. 최 교수는 ‘개발은 적극적으로 지원하되 위험에 비례해 안전 규제를 강화하는 전략’을 제안했다. 작은 스타트업이나 일반적인 AI 서비스에는 규제 부담을 최소화하고, 매우 강력한 최첨단 모델에 대해서는 능력 평가, 보안, 사고 보고 기준을 단계적으로 강화하는 방식이다.

최 교수는 “한국의 목표는 AI 혁신을 적극적으로 추진하면서도 위험이 커지는 지점에서는 그 위험을 관리할 수 있는 제도를 미리 마련하는 것이어야 한다”며 “국내의 자체 개발 역량이 지나치게 위축돼 미국 AI 기업에 대한 의존성이 커질 경우 장기적으로 ‘AI 주권’의 문제가 발생할 수 있다는 점도 고려해야 한다”고 조언했다.