AI 이용권 훔쳐 암시장에 판다…하루 10만 달러 ‘요금 폭탄’도

화면에 ‘해킹(Hacking)’이라는 단어와 PHP 코드가 표시돼 있다. 로이터연합뉴스

기업의 인공지능(AI) 모델 이용 권한을 훔쳐 암시장에 되파는 사이버 범죄가 확산하고 있다. 해커들은 훔친 이용권을 저렴하게 판매해 돈을 벌고, AI 사용료는 피해 기업에 떠넘기는 식이다.

구글 클라우드는 4일 구글 위협 인텔리전스 그룹(GTIG)과 사이버보안 업체 맨디언트가 이 같은 ‘LLM재킹(LLMJacking)’ 공격을 분석한 보고서를 공개했다고 밝혔다. 올해 발생한 실제 침해사고들을 조사한 결과, 일부 기업에서는 공격을 차단하기 전까지 누적 사용료가 100만달러(약 13억원)에 달한 것으로 나타났다. 하루 만에 10만달러가 넘는 요금이 발생한 사례도 있었다.

LLM재킹은 기업이 이용하는 대규모언어모델(LLM)의 접속 권한을 훔쳐 AI 자원을 무단으로 사용하는 수법이다. 공격자들은 AI 서비스 접속에 필요한 일종의 디지털 열쇠인 ‘API 키’나 계정 인증정보를 탈취한다. 개발자들이 코드를 공유하는 깃허브에 노출된 인증정보를 수집하거나 로그인 상태를 가로채는 방식도 활용됐다.

최근에는 탈취한 AI 이용권을 되파는 암시장까지 형성됐다. 해커들은 여러 기업에서 훔친 접속 권한을 ‘LLM 믹서’라는 중계 시스템에 모아 저렴하게 판매한다. 구매자는 싼값에 고성능 AI를 이용하고, 실제 사용료는 피해 기업에 청구되는 구조다. 한 불법 서비스는 최첨단 AI 모델을 무제한 이용할 수 있는 상품을 월 60달러에 판매한다고 홍보했다.

무단 사용이 짧은 시간에 집중되면서 요금 피해도 커지고 있다. 한 공격자는 8시간도 채 안 되는 시간에 AI 모델을 50만건 넘게 호출했다. 또 다른 공격에서는 사용량 제한을 피하기 위해 임시 계정을 반복적으로 생성하고 삭제하는 수법까지 동원됐다. 피해는 북미와 남미, 아시아태평양 지역의 금융·유통·기술·운송 기업 등에서 광범위하게 발생했다. 탈취한 AI 자원이 저렴하게 유통되면서 대규모 자동화 사이버 공격에 악용될 우려도 커지고 있다.

존 헐트퀴스트 GTIG 수석 애널리스트는 “기업은 LLM 자원에 대한 접근을 엄격히 통제해야 비용 폭탄을 막을 수 있을 뿐 아니라 저렴한 비용으로 쏟아지는 자율형 공격으로부터 더 넓은 공동체를 보호할 수 있다”고 말했다.