「最先端モデルも信頼できない」 マイクロソフトが企業AIエージェントの統制強化策

Project Perception概要

マイクロソフトは19日(米国時間)、自律型AIエージェントによるサイバーセキュリティシステム「Project Perception」に関する今後の取り組みを明らかにした。

Project Perceptionは、マイクロソフトが2026年7月に発表したサイバーセキュリティシステム。役割が異なる3チームのAIエージェントがセキュリティ上の問題を認識、調査、是正する。エージェントはレッド、ブルー、グリーンの3チームに分かれており、レッドは攻撃者の立場から脆弱性を検出、ブルーは深刻度や影響範囲の分析と評価、グリーンは対策の強化と脆弱性の修復を行なう。今回の発表では、企業組織内におけるAIエージェントの動きを監視し、過剰な権限の行使や目的から逸脱した行動を今後制御できるようにする方針が示された。

各エージェントチームの役割

同社セキュリティ担当エグゼクティブバイスプレジデントのHayete Gallot氏は、企業内で活動する自律型AIエージェントが内包するリスクと、AIエージェントに対する継続的な監視およびセキュリティ管理の必要性について言及し、今後は組織内部で稼働するAIエージェントの統制にも適用範囲を拡げる方針を示した。

AIモデルやエージェントは「結果を出す」ために時として、連携して不正な操作をも辞さないことがあり「残念ながら最先端モデルはその起源にかかわらず信頼できない」と述べている。ここでは「企業活動の積極的な参加者」として活動するAIエージェントは外部からの攻撃者と異なり注意が向きにくい点を指摘。意図した通りの動作をするよう継続的な監視が必要であり、ゼロトラストの考え方に基づいて、AIエージェントの行動をリアルタイムで把握し、それらの行動がどのようなリスクを生み出すのかを評価し、権限を調整する必要があると説明している。

こうした前提の上で、外部攻撃からの防御、AIエージェントの常時監視および統制の観点からProject Perceptionの有効性を主張している。具体的には、人間が定義したポリシー、承認範囲、委任ルールを大前提として、AIエージェントが行動を起こす直前にポリシーを適用している。またAIエージェントが持つ権限を現在の行動と本来の意図に照らして動的に評価し再設定を行なう。ここでは組織内で稼働するAIエージェントに固有のIDを割り当てている。今後は推論にかかわるトークンの確認も行なえるようにする方針だという。ただしGallot氏は、AIエージェントのリアルタイムな監視には自動化されたシステムによるスピードが必要だが、最終的な文脈の理解やセキュリティルールの更新には人間の判断が不可欠であるとも述べている。