오픈AI, 모델 개발 초기 단계부터 외부 기관 검증 추진

로이터연합뉴스

인공지능(AI) 모델의 안전성을 둘러싼 논쟁이 커지는 가운데 오픈AI가 앞으로 모델 개발 초기 단계에서부터 외부 기관에 평가를 맡기겠다고 밝혔다. AI 기업이 아닌 독립적인 기관 및 학계가 AI 시스템을 평가해야 한다는 목소리도 높아지고 있다.

오픈AI는 22일(현지시간) 블로그 게시글을 통해 모델 개발 초기 단계부터 외부 기관이 안전성 위험을 검증하는 체계를 마련하겠다고 밝혔다. 지금까지는 모델 출시 직전에 외부 기관에 성능 등을 중심으로 평가를 받았지만, 앞으로는 새 AI 모델의 훈련·평가·배포 단계에서부터 제3자 기관이 기술 안전성 평가를 수행하도록 한다는 계획이다.

오픈AI에서 안전성 검토 업무를 맡고 있는 라마 아흐마드는 이날 블룸버그와의 인터뷰에서 “AI 기술의 중요성과 파급력이 커지면서 (모델의) 배포 단계는 물론 학습 및 평가 단계에서도 안전성을 면밀히 검토할 계획”이라고 말했다. 그러면서 “강력한 독립 메커니즘, 과학적 엄격성, 굳건한 안전 관행, 명확한 책임”을 기준으로 제시했다.

AI 권위자인 리 페이페이 스탠퍼드대 교수 겸 월드랩스 창업자는 이날 블룸버그TV와의 인터뷰에서 AI 시스템 평가를 개발 기업에만 맡겨서는 안 된다면서 “독립적인 기관이나 학계 등 공공 부문의 평가(벤치마크)가 중요하며, 이는 산업과 정부가 공동으로 책임을 져야 하는 문제 믿는다”고 밝혔다.

그는 인간이 “기술의 힘을 소유하며, 통제해야 한다”면서 “AI는 AI가 아니라 인간에 관한 것이다. 우리의 개별적이고 공통적인 존엄과 주체성, 책임에 관한 것이기 때문”이라고 말했다. 또한 AI의 위험은 사람들이 기술을 개발, 관리, 사용하는 방식에 달려있다고도 말했다. 그는 AI의 성능과 역량이 개선되고 실생활에 적용되는 일이 늘어날수록 AI가 의도대로 행동하는 지를 결정하고 평가하는 일이 중요해진다고도 밝혔다.