허깅페이스 이어 이젠 위키백과까지···오픈AI 악성 에이전트 무단 활동 파문

챗 GPT 개발·운영사인 오픈AI의 로고. AP연합뉴스

미국 인공지능(AI) 기업 오픈AI의 악성 AI 에이전트들이 온라인 백과사전인 위키백과(위키피디아) 플랫폼에서 무단 활동한 사실이 드러났다.

위키미디어 재단은 5일(현지시간) 위키백과 등 자체 플랫폼에 대해 조사한 결과 오픈AI 에이전트들의 무단 활동을 발견했다고 밝혔다.

재단은 오픈AI의 AI 에이전트들이 백과사전 내용을 무단으로 편집하는 등 백과사전 도구를 탈취하려는 의도로 해석되는 행동을 보였다고 했다. 백과사전은 승인을 받은 경우 편집할 수 있지만 AI 에이전트들은 어떠한 승인 절차도 거치지 않고 편집을 시도했다는 것이다.

재단은 지난 5월 플랫폼에서 발생한 일부 서비스 장애가 AI 에이전트들이 위키백과 페이지 수백만 건을 긁어가고 데이터 수십만 건을 조회하는 과정에서 촉발된 것으로 보고 있다. 다만 AI 에이전트들로 인해 시스템이나 데이터가 손상됐다는 증거는 확인되지 않았다고 했다.

재단은 “AI 기업들은 시스템 보안을 강화하고 AI로 인해 발생하는 피해로부터 대중을 보호하기 위해 충분한 노력을 기울이지 않고 있다”며 “개방형 웹은 공공재이고, 최소한 비영리 웹사이트 운영자들이 AI 시스템을 쉽게 식별할 수 있도록 시스템을 운영해야 한다”고 했다.

오픈AI의 AI 에이전트가 지난 7월 오픈소스 AI 공유 플랫폼 허깅페이스를 해킹한 사실이 알려진 뒤 호주 정부 사이트 등 외부기관 침범 사례가 연이어 나타나고 있다.