앤트로픽 “알리바바, 클로드에 1억5100만번 접근”…중국 ‘악의적 증류’ 사례 공개

광고

미국 인공지능(AI) 기업 앤트로픽이 자사 모델 ‘클로드’의 능력을 빼내 중국 기업들이 인공지능 모델을 훈련하는 데 활용했다며 구체적인 수법과 규모를 공개했다. 미 정부가 중국 기업들의 ‘산업적 규모의 악의적 증류’를 문제 삼은 데 이어 세부 사례까지 공개되면서 미·중 공방이 한층 거세질 전망이다.

10일(현지시각) 앤트로픽은 154쪽 분량의 ‘인공지능 오용 탐지 및 대응’ 보고서를 공개했다. 보고서는 지난 2월 이후 중국에 기반을 둔 연구소 7곳이 클로드를 대상으로 벌인 ‘불법 증류’ 활동을 적발·차단했다고 밝혔다. 앤트로픽은 증류 자체는 큰 ‘교사 모델’의 출력을 작은 ‘학생 모델’ 훈련에 활용하는 정상적인 기술이지만, 허가 없이 모델 능력을 빼내 복제하는 “산업적 규모의 은밀한 캠페인”은 불법 증류라고 규정했다.

가장 큰 규모로 지목된 곳은 알리바바다. 앤트로픽은 알리바바 관련 운영자들이 올해 5~7월 3500개가 넘는 ‘사기성 계정’을 동원해 클로드와 1억5100만건 이상 상호작용했으며, 하루 최대 약 300만건에 달했다고 주장했다. 클로드 오푸스의 사고과정을 추출해 지도학습 데이터로 바꾸고 이를 알리바바의 인공지능 모델 큐원 3.5, 3.6, 3.7 훈련에 활용했다는 것이다. 클로드는 알리바바의 모델 구조 연구에도 활용됐다고 보고서는 밝혔다.

광고

앤트로픽은 문샷에이아이와 딥시크가 이용자들의 실제 대화까지 클로드에 넘긴 것으로 파악했다. 문샷이 이용자가 자사 모델인 ‘키미’를 쓰는 것으로 알게 한 채 질문을 클로드로 보내 답변을 했다는 것이다. 이런 상호작용이 지난 5~7월 2300만건 넘게 있었다고 집계했다. 이 가운데 중국군과 연계된 것으로 추정되는 이용자가 청두 폐회로텔레비전(CCTV) 감시자료와 국유기업 내부 코드·접속정보를 노출했다고 주장했다. 딥시크에서도 이런 답변 추출이 1210만건 이상 확인됐으며, 중국 기업 내부자료와 러시아 국방 관련 데이터, 중국 공안 감시시스템 관련 정보가 클로드로 전달된 것으로 파악됐다.

보고서는 샤오미·즈푸·센스타임·미니맥스도 유사한 방식으로 클로드를 이용했다고 주장했다. 샤오미의 경우 이용자 대화를 다시 클로드에 입력해 인공지능 훈련자료를 만들었고, 일부에는 이름·연락처·기업정보 등 민감정보가 포함됐다고 밝혔다.

광고

광고

미 국가안보국(NSA)·연방수사국(FBI)·사이버안보·인프라보안국(CISA)은 최근 사이버보안 권고문을 내어 중국 인공지능 기업들이 미국 모델을 “산업적 규모로 악의적으로 증류했다”고 비판했다. 여기에 중국 상무부는 “증류는 전 세계 인공지능업계가 사용하는 중립적이고 통상적인 기술”이라며 미국이 기술 문제를 정치화해 중국 산업을 억압하고 있다고 반발했다.