MS “AI는 인간의 도구, 인간 이해 못하는 언어로 소통 금지” AI규범 공개

2026년 9월 2일 대만 타이베이에서 열린 ‘세미콘 타이완 2026’에서 라니 보카르(Rani Borkar) 마이크로소프트 애저 하드웨어 시스템 및 인프라 총괄 사장이 연설하고 있다. EPA연합뉴스

최첨단 인공지능(AI)의 속도조절론이 확산하는 상황에서 마이크로소프트(MS)가 인간이 통제할 수 없는 AI는 만들지 않겠다는 원칙을 내놨다. 안전성 확보를 위해 성능과 자율성을 제한할 수 있다는 뜻도 밝혔다. 향후 기업별 안전 규칙을 통합하는 논의가 탄력을 받을지 주목된다.

MS의 AI 조직인 마이크로소프트AI는 14일(현지시간) 37쪽 분량의 ‘휴머니스트 AI 행동규범’ 초안을 공개했다. ‘사람이 AI보다 우선한다’는 원칙을 핵심 전제로 삼았다. AI가 아무리 강력해져도 인간의 지휘·감독 아래 있는 도구로 남아야 하며, 통제할 수 없는 기술은 거부해야 한다는 것이다.

MS는 안전장치를 벗어날 수 있는 ‘범용 초지능’ 개발 경쟁에 참여하지 않겠다고 못 박았다. 초지능은 ‘모든 인간을 합친 것보다 지능과 능력이 뛰어난 AI 시스템’으로 정의했다. 이를 위해 필요하다면 모델의 범용성·자율성·성능을 제한할 수 있다고 밝혔다.

이 같은 통제 원칙은 행동 규칙에도 반영됐다. 모델이 중단·수정 명령에 저항하지 못하도록 하고, 안전규칙을 이용자나 운영 기업의 지시보다 우선하도록 했다. 과제를 완수했더라도 규칙을 어겼다면 실패로 간주한다. AI끼리 인간이 알 수 없는 언어로 소통하는 것을 금지하고, AI에는 사람과 같은 ‘인격’이 없다는 점도 분명히했다. MS는 연내 수정안을 내놓고 자체 AI 모델의 훈련·평가에 활용할 계획이다.

기업 차원의 AI 윤리규범 제정은 처음이 아니다. 앤트로픽은 ‘클로드 헌법’과 별도 안전정책을, 구글 딥마인드도 위험 수준별 안전체계를 운영한다. 이번 초안은 ‘통제 가능성’을 AI 개발의 필수 전제조건으로 제시했다는 점에서 눈길을 끈다. 이를 위해 성능까지 제한할 수 있다고 명시해 안전을 성능 경쟁보다 앞세우자는 최근 ‘AI 속도조절론’과도 맞닿아 있다.

다만 ‘통제할 수 없는 AI’를 가려낼 구체적인 ‘레드라인’은 확립되지 않았다. AI 안전 규칙이 행동으로 이어지려면 객관적인 평가 기준부터 마련해야 한다는 지적이 나온다.

이번 발표와 맞물려 기업별로 운영된 AI 안전 규칙을 공통 기준으로 묶는 논의가 탄력을 받을지도 주목된다. 모델 성능이 위험 수위에 도달하면 추가 검증을 통과할 때까지 개발을 늦추고, 외부 전문가가 훈련 과정 등을 직접 점검하는 방안이 제시됐다. 모델 성능을 끌어올리는 학습 단계에서부터 안전 검증을 강화하는 방안도 거론된다.

무스타파 술레이만 MS AI 최고경영자(CEO)는 14일 로이터통신과의 인터뷰에서 “연구소들이 협력해 기술에 대한 통제력을 확보해야 할 때”라며 “지금은 모두가 AI 개발 속도를 논의하며 숨을 고르기에 좋은 시점”이라고 말했다.