애플 "AI에이전트, 예상 밖 돌발행동 위험"…연례보고서에 경고

이미지 확대

(샌프란시스코=연합뉴스) 권영전 특파원 = 애플이 인공지능(AI) 에이전트의 예상치 못한 돌발 행동 가능성을 사업상 주요 위험 요인으로 명시했다.

애플은 3일(현지시간) 미국 증권거래위원회(SEC)에 제출한 2026 회계연도 연례보고서(10-K)에 이와 같은 내용을 담았다.

애플은 보고서에서 "AI 에이전트와 기타 기술은 내·외부 시스템과 상호작용하고, 코드를 실행하거나 수정하며, 통신을 전송하고 거래를 완료하는 등 자율적으로 작동할 수 있다"고 지적했다.

이와 같은 AI 에이전트는 애플이 개발한 것과 다른 기업이 개발한 것을 막론하고 인간의 지시 없이 동작한다거나 지시에 따르지 않을 수 있고, 예측할 수 없는 방식으로 작동할 수도 있다고 회사 측은 경고했다.

또 보안·통제 수단을 우회하거나 악의적 행위자에 의해 악용될 수 있다고 덧붙였다.

이에 따라 AI 기술을 활용한 다단계 업무 흐름에서 오류가 누적되고, 데이터가 삭제되는 등 복구가 불가능한 결과를 초래할 수도 있다고 강조했다.

애플은 또 AI와 슈퍼지능(SI·도널드 트럼프 행정부가 AI를 일컫는 용어)에 대한 법률·규제와 관련해 불확실성이 있으며, 소비자의 부정적 인식과 윤리적 우려도 사업에 부담이 될 수 있다고 보고서에 적시했다.

애플이 연간 보고서에 이 같은 우려를 언급한 것은 실리콘밸리 기술업계 전반에서 AI 해킹 등에 대한 경각심이 높아진 상황에서 최신 아이폰과 맥 등에 '애플 인텔리전스'와 '시리' 등 AI 기능을 본격적으로 도입하기 시작했기 때문으로 풀이된다.

애플은 지난달 AI 에이전트의 맥 컴퓨터 데이터 접근 통제를 강화하는 등 개인정보 보호 조치를 연이어 도입하고 있다.

존 터너스 애플 CEO도 최근 실적발표 전화회의(콘퍼런스콜)에서 AI 에이전트 기능에 대해 "사용자에게 유망한 도구"라면서도 "이용자가 어떤 접근권을 부여하는지 인지해야 하고 보안과 개인정보가 보호되는 방식으로 구현돼야 한다"고 강조한 바 있다.

comma@yna.co.kr

제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지> 2026년11월04일 09시12분 송고