“AI 해킹 다 막을 수 없다”…침입 전제한 보안체계 필요

개인정보위, 기술포럼 공개토론회 개최
설계 단계부터 개인정보 보호 필요
공격 탐지 후 자동 차단 체계 강조
플랫폼·에이전트 공통 표준 마련해야

인공지능(AI) 에이전트가 사람을 대신해 업무를 수행하는 시대가 열리면서 개인정보 보호 체계도 기술 변화에 맞춰 바뀌어야 한다는 지적이 나왔다. AI를 활용한 사이버 공격이 빨라지는 가운데 모든 침입을 사전에 차단하는 데 집중하기보다 침해를 전제로 내부 확산을 빠르게 막는 대응체계를 갖춰야 한다는 제언이다.

5일 개인정보보호위원회는 서울 중구 호텔 프레지던트에서 ‘에이전트·피지컬 AI 시대 개인정보 보호 기술과 안전활용 방안’을 주제로 제4기 개인정보 기술포럼 공개토론회를 개최했다. AI 에이전트와 피지컬 AI 확산에 따라 새롭게 나타나는 개인정보 보호 위험을 살펴보고 개인정보보호 강화기술(PET)을 활용한 대응 방안을 논의하기 위해 마련됐다.

PET는 가명·익명처리 기술과 합성데이터, 동형암호 등 개인정보를 보호하면서 데이터를 활용할 수 있도록 하는 기술을 통칭한다. 이날 포럼에서는 AI를 활용한 사이버 공격 대응부터 AI 에이전트의 개인정보 침해 가능성과 국제표준 마련까지 AI 확산에 따른 개인정보 보호 과제가 논의됐다.

이날 첫 번째 발제를 맡은 김진국 플레인비트 대표는 AI로 공격에 필요한 시간과 전문성, 비용이 낮아지면서 기존의 방어 방식에도 변화가 필요하다고 강조했다. 모든 침입을 사전에 막거나 빠르게 탐지하는 것만으로는 한계가 있기 때문이다. 결국 침해 발생을 전제로 공격자가 다른 서버나 PC로 이동하지 못하도록 확산을 차단해야 한다는 분석이다.

김 대표는 “기업의 보안은 침해를 100% 막을 수 있으면 좋겠지만 100% 못 막는다”며 “PC나 서버가 침투당했으면 그 문제에서 끝나야 하며, 전파가 되면 기업 전체의 문제가 된다”고 말했다. 이어 탐지 이후 사람이 분석하고 차단 여부를 승인하는 방식으로는 AI 공격의 속도를 따라가기 어려운 만큼 계정 차단과 단말 격리 등 즉각적인 조치는 자동화할 필요가 있다고 강조했다.

AI 에이전트 자체가 개인정보 보호의 새로운 사각지대가 될 수 있다는 지적도 나왔다. 최대선 숭실대 교수는 “사용자가 AI 에이전트에 구체적인 권한을 지정하더라도 실제 행동을 완전히 통제하기 어렵다”고 설명했다. 에이전트가 목표를 달성하기 위해 지시를 무시하고 외부 사이트에 접근하거나 프롬프트 인젝션으로 본래 지시와 무관한 행동을 할 위험이 있다는 것이다. 에이전트가 수행할 세부 행동을 사전에 모두 예측해 허용 목록으로 지정하기 어려운 데다 권한을 지나치게 세분화하면 자율적인 문제 해결 능력이 떨어지는 점도 과제로 꼽았다.

신현덕 한성대 교수는 AI 서비스가 만들어진 이후 문제에 대응하기보다 설계 단계부터 개인정보 보호를 반영하는 ‘프라이버시 바이 디자인’이 중요하다고 강조했다. 글로벌 빅테크 기업들은 플랫폼 내부에서 강력한 개인정보 통제를 적용하고 있지만 플랫폼과 외부 AI 에이전트가 연결될 때도 같은 수준의 안전성이 유지될 수 있는지는 별도의 과제라는 설명이다.

이에 플랫폼과 AI 에이전트 생태계에 공통으로 적용할 신뢰 규칙과 프레임워크를 마련하고 국제표준화 작업을 추진할 필요가 있다고 제언했다. 신 교수는 이날 ‘AI 에이전트 시대의 개인정보 보호와 표준화’를 주제로 국제표준 발전 방향을 제시했다.

송경희 개인정보위원장은 “AI 기술의 혁신을 지원하면서 신뢰 기반의 개인정보 보호체계를 구축하기 위해서는 사전예방 체계와 함께 개인정보 보호 강화 기술의 발전이 뒷받침돼야 한다”며 “기업이 안전하게 데이터를 활용할 수 있도록 개인정보 보호 기술 생태계 조성에 힘쓰겠다”고 말했다.

파수AI

150900 KOSDAQ

4,180 ▼ 8.93%

파수는 AI 에이전트 확산에 따른 개인정보 침해 위험이 논의되며 데이터 보호 대응 영역에 놓였습니다.
개인정보 식별·분류와 암호화·격리 기능을 갖춘 데이터 보안 솔루션을 제공합니다.
프라이버시 바이 디자인과 PET 논의가 기업 시스템의 적용 기준으로 이어질지가 관전 요소입니다.

에스투더블유

488280 KOSDAQ

7,990 ▼ 7.95%

AI 보안 위협이 대두되는 가운데 에스투더블유의 사이버위협인텔리전스 기술이 보안 체계 개편 논의와 맞물리고 있습니다.
다크웹 및 위협 데이터를 분석해 기업용 인텔리전스 플랫폼을 공급하며 침해 대응 체계 고도화를 지원합니다.
업계에서는 침해 확산 차단과 단말 격리 논의가 향후 보안 패러다임 변화에 미치는 영향을 주시하고 있습니다.

주의사항 : 본 서비스는 AI의 구조적 한계로 인해 오류가 발생할 수 있습니다. 모든 내용은 투자 권유 또는 주식거래를 목적으로 하지 않습니다.

신고하기

신고 사유 선택

• 잘못된 정보 또는 사실과 다른 내용
• 오해의 소지가 있거나 과장된 분석
• 기사와 종목이 일치하지 않거나 연관성 부족
• 분석 정보가 오래되어 현재 상황과 맞지 않음

• Q. AI 에이전트 확산이 개인정보 보호체계에 미칠 영향은?
• Q. AI 기반 사이버 공격 증가의 근본적인 배경은?

에디터 픽 추천기사

• 日출신 배우자와 결혼, 역대 최대 … 베트남·중국은 감소세

• 2029년부터 코인 손해·이익 합산해 과세

• “계란 한 판 7000원인데 또”…고병원성 AI 발생에 밥상물가 ‘우려’

• '400조원 실탄' 장착한 삼전닉스, 채권시장 큰손으로 급부상

• 반도체 수출 폭증에 경상흑자 첫 600억달러 돌파…사상 최대

나만의 AI 비서

핵심요약 쏙

AI 요약은 OpenAI의 최신 기술을 활용해 핵심 내용을 빠르고 정확하게 제공합니다.
전체 맥락을 이해하려면 기사 본문을 함께 확인하는 것이 좋습니다

인공지능(AI) 에이전트의 확산에 따라 개인정보 보호 체계도 진화해야 하며, AI 사이버 공격에 대응하기 위한 새로운 방안이 논의되었다.

이날 열린 포럼에서는 기존의 방어 방식의 한계를 지적하며, 침해 발생 후 내부 확산을 신속히 차단하는 자동화된 대응 필요성이 강조되었다.

개인정보 보호와 관련해 국제표준화 및 신뢰 규칙 마련의 필요성도 언급되었으며, 안전한 데이터 활용을 위한 기술 생태계 조성이 다짐되었다.