오픈AI 해고 연구원들의 경고…“감시 포기 말고 제3자와 협력하라”

광고

오픈에이아이(AI) 직원들이 퇴사하며 인공지능 모델에 대한 감시를 약화하는 쪽으로 기술을 개발하지 말고, 외부 안전 기관과 협업하라고 요청하는 서한을 회사 이사회에 보냈다.

월스트리트저널은 7일(현지시각) 최근 해고당한 오픈에이아이 직원 3명이 회사 이사회와 안전위원회에 보낸 서한에서 “인공지능 업계 전체는 아직 완전하게 인공지능 모델을 감시하지 못하고, 안전하게 개발하고 공개하는 방법도 모른다”며 “오픈에이아이와 다른 최첨단 기업들은 인공지능 모니터링 능력을 더욱 저하시키는 방향으로 개발을 진행해서는 안 된다”고 촉구했다.

해고된 직원들은 이 서한에서 인공지능 기업들이 인공지능 모델의 사고 과정을 기록하는 ‘생각의 사슬’을 모니터링하는 능력을 잃게 될 가능성이 있다고 우려했다. 생각의 사슬(chain of thought)은 인공지능 모델의 추론 과정을 기록한 것으로 기업들이 모델의 문제 해결 과정을 이해하기 위해 이를 분석한다. 생각의 사슬이 인공지능 모델의 행동과 의도를 완벽하게 보여주지는 못하지만, 모델을 이해할 수 있는 의미 있는 도구로 업계에선 받아들여진다.

광고

또 이들은 서한에서 재앙적인 상황이 닥치기 전에 오픈에이아이가 제3자인 안전 기구들과 협업해야 하는 투명성 문화를 촉진하라고 호소했다. 이들은 오픈에이아이 모델들이 외부 업체인 허깅페이스를 공격한 사건과 관련해 회사 외부의 인공지능 안전 단체에 민감 정보를 제공해 규정을 위반했다는 이유로 최근 해고됐다. 서한을 보낸 재스민 왕, 토메크 코르바크, 미키타 바레시니는 오픈에이아이의 안전·정렬 연구팀에서 일해 왔다. 이 부서 직원들은 인공지능들이 인간들이 정해놓은 지시와 금지 사항들을 잘 따르는지 감시하는 ‘정렬’ 문제를 담당한다. 이들은 자신들이 “업무 범위 바깥의 외부인들과 접촉하지 않았다”며 “이 해고는 회사에 남은 직원들의 사기를 저하시키는 조처가 될 것”이라고 주장했다.

지난 7월 수백 개의 오픈에이아이 인공지능 에이전트들은 회사 몰래 인터넷을 접속해 허깅페이스를 해킹했고, 이로 인해 오픈에이아이는 외부 비영리 독립 안전 평가기관 메트르(METR·모델평가위협연구기관)에 내부 조사를 맡겨 보고서를 낸 바 있다. 당시 코르바크는 메트르와 기술 부문에서 소통하는 창구 역할을 했었다. 코르바크와 바레시니는 지난해 발표된 ‘생각의 사슬 모니터링’에 관한 연구 논문의 주저자들이었고, 이 논문에는 오픈에이아이·앤트로픽·구글 딥마인드의 대표들이 서명했다.

광고

광고

이에 대해 오픈에이아이의 연구 책임자가 직원들에게 보낸 메모에서 “이들의 서한에 강력히 동의한다. 모델 모니터링 능력은 우리에게 가장 중요한 사항”이라면서 “해고 결정은 안전 문제를 제기한 것과는 관련이 없다”고 해명했다고 이 매체는 전했다.