사이버 보안 전쟁도 AI 대 AI…“AI 실행 사이버 공격은 이미 현실”

광고

인공지능(AI)이 사이버 보안 취약점을 빠르게 찾아내면서 사이버 공격의 속도와 범위를 키울 수 있는 새로운 위협으로 떠오르고 있다. 이에 맞서는 방어 현장에서도 인공지능을 투입해 취약점을 미리 찾아 조처하는 등 ‘인공지능 대 인공지능’ 대응이 본격화하는 모습이다.

한국인터넷진흥원(KISA·키사)은 인공지능을 활용한 사이버 보안 취약점 탐지·검증 체계를 고도화해 취약점 발견부터 조치까지 걸리는 시간을 단축할 계획이라고 21일 밝혔다. 배승권 키사 취약점관리센터장은 “인공지능을 통해 한 사람이 수행할 수 있는 공격 작업의 양과 속도가 크게 확대될 수 있다”며 “방어자도 인공지능을 적극 활용해 대응 시간을 줄이는 게 중요하다”고 말했다.

실제로 인공지능을 사이버 공격에 활용한 사례도 등장하고 있다. 구글 위협정보그룹(GTIG)은 지난 5월 사이버범죄 조직이 인공지능을 활용해 오픈소스 웹 기반 시스템 관리 도구의 2단계 인증을 우회하는 제로데이(미공개 취약점)를 공략하는 공격 코드를 만든 사례를 공개했다. 구글은 지난해 11월 보고서에선 러시아 정부 배후의 해킹조직이 우크라이나를 공격하면서 악성코드가 실행되는 도중 직접 거대언어모델(LLM)을 호출해 정보 탈취에 필요한 명령어를 생성한 사례도 공개한 바 있다. 인공지능을 취약점 발견부터 공격 코드 개발, 실제 공격에까지 활용하며 사이버 공격 속도를 끌어올리고 있는 것이다.

광고

반면, 기업 대응은 뒤처지고 있다. 미국 보안업체 벌른체크 조사 결과를 보면, 지난해 처음으로 악용 정황이 확인된 보안 취약점 884건 가운데 29%는 해당 취약점 정보가 공개되기 전이나 공개된 당일 공격이 이뤄졌다. 기업이 취약점을 인지하기도 전에 공격을 당하거나, 보안업체 등이 취약점을 공개한 직후 공격자들이 곧바로 보안 취약점을 공격에 악용했다는 것이다. 미국 통신업체 버라이즌이 올해 발표한 침해사고 조사보고서를 보면, 기업이 주요 취약점을 조치하는 데 걸린 기간의 중간값은 43일로, 전년(32일)보다 늘었다. 공격과 방어 사이의 속도 격차가 점차 확대되고 있는 셈이다. 인공지능 활용으로 공격 속도가 한층 빨라질 것을 고려하면, 기업 입장에선 신속한 취약점 탐지·분석·조치 능력이 더욱 중요해진 것이다.

동전의 양면처럼 인공지능을 사이버 방어에도 활용할 수 있다. 사람이 일일이 확인하기 어려운 대규모 소스코드를 빠르게 분석해 취약점 후보를 찾고, 실제 공격 가능성을 검증하거나 패치 코드를 작성하는 데 활용하는 식이다. 키사도 지난 5월부터 오픈에이아이(AI)의 ‘정부·기관 보안 협력 프로그램’(GTAC)에 참여해 지피티-5.5 사이버 모델로 취약점 점검을 진행 중이다. 지피티 모델이 국내 기반시설의 외부 공개 웹누리집과 상용·오픈소스 소프트웨어 등을 분석해 취약점 후보를 찾으면 전문가가 이를 검증하는 형태다. 지피티 모델이 찾은 취약점 10건 가운데 실제 5~6건은 유효한 취약점이었다고 한다.

광고

광고

배 센터장은 “(사람이 작업할 경우)한 달 정도 걸리던 취약점 파악을 일주일 만에 해결했다”고 설명했다. 현재 정부는 국외 모델을 활용하는 데서 나아가 국내 환경에 특화한 보안 모델 개발도 진행하는 등 독자 방어체계 구축을 계획하고 있다.

키사는 취약점 발견부터 전파 단계를 아우르는 전 주기 관리 체계를 강화할 계획이다. 배 센터장은 “인공지능을 활용해 더 많은 자산을 빠르게 점검하고 위험한 취약점을 선별·검증·조치하는 체계를 갖춰가겠다”고 말했다.