[ITmedia エグゼクティブ] AIガバナンスは「コンプライアンス」ではない――AIエージェント時代に経営層が取り組むべき「攻めと守り」の統合的戦略

著者 周藤瞳美

[ITmedia]

　企業におけるAI活用は、一部の部門による実証実験の段階を終え、全社的な経営課題へと移行している。それに伴い、AIがもたらすリスクは技術、法務、倫理、事業戦略と多岐にわたり、固定的なルールや単一の部門だけで管理することはもはや困難になっている。とりわけ2026年現在、自律的に行動する「AIエージェント」の本格的な普及により、サイバー攻撃や予期せぬ暴走といった新たな脅威も顕在化している。

　スマートガバナンス代表取締役CEOで京都大学特任教授・東京大学客員教授を務める羽深宏樹氏は、AIガバナンスを、正解のない時代に価値とリスクの均衡を取りながら組織全体で回し続ける経営の営みとして捉え直すべきだと説く。

スマートガバナンス株式会社代表取締役CEO 京都大学大学院法学研究科 特任教授 東京大学大学院法学政治学研究科 客員教授　羽深宏樹氏

リスクのゼロ化ではなく、受容可能な水準での管理を目指す

　AIガバナンスとは何か。グローバルで統一された定義は存在しないが、総務省および経済産業省が公表する「AI事業者ガイドライン」では、「AIの利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる正のインパクト（便益）を最大化することを目的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計並びに運用」と定義されている。

　羽深氏はこの定義において、特にリスクの管理に関する部分が重要だと強調する。

　「ガイドラインには、リスクを『ゼロにしろ』とも『最小化しろ』とも書かれていません。あくまで『受容可能な水準で管理する』ことが求められています。AIは予見性が低く、社会にどのようなインパクトをもたらすかは、実際に運用してみなければ分からない領域が多く存在します。そのため、リスクのゼロ化や最小化を目標に掲げてしまうと、『AIを使わない』という選択肢が最も合理的なソリューションになってしまうのです」（羽深氏）

　AIガバナンスは、上から降ってくるルールを守るコンプライアンスとは性質が異なる。羽深氏は「AIがもたらす価値を最大化し、同時にリスクを受容可能なレベルに抑えるための、攻めと守りの経営戦略そのもの」だと位置付ける。

　事実、日本銀行金融研究所が2025年6月に公表した「金融機関におけるAIの利用を巡る法律問題研究会」報告書の中では、「取締役には、内部統制システム構築義務の一内容としてAIガバナンス体制構築義務が認められ、AIの利用における組織内の最終的な責任を負うと解される」と明記されている。AIガバナンスは、やった方がよい領域から、やるべき領域へとシフトしているのだ。

「AIのリスクとは何か」はもはや定義できない

　AIリスクの議論は、近年急に始まったものではない。2010年代半ばには画像認識AIによる不適切なラベリングや、採用AIによる性差別といった問題が表面化し、2020年前後からはAI倫理・原則の策定ブームが起きた。その後、ガイドラインや標準化が進むなか、2022年後半から生成AIが爆発的に普及したことで状況は一変する。

　一部のエンジニアやビジネスパーソンに限られていた技術が広く一般に開放されたことで、AIリスクの質と量が劇的に増加した。CBRN（化学・生物・放射線・核）に関する危険な情報の生成、世の中の信頼の根底を揺るがすディープフェイク、さらにはサイバー攻撃の高度化など、深刻なリスクが次々と顕在化している。

　「もはや『AIのリスクとは何か』という問いは、『人間のリスクとは何か』と尋ねるのと同じくらい、定義が困難で広範なものになっています」と羽深氏は現状を分析する。

　あえて分類するなら、誤判定や不適切なバイアス、ハルシネーションなどAIの不適切な挙動によるリスク、サイバー攻撃やディープフェイクなどAIの悪用によるリスク、経済・雇用への影響や環境負荷などAIの普及に伴う社会的リスクなどに整理できる。

　実は、AIのリスクの多くは人間のリスクと重なる。「AIが超高性能な確率統計マシンである以上、やっていること自体は人間と大きく変わりません」（羽深氏）。だからこそ、既存のリスクマネジメントや内部統制の仕組みは相当程度有効だ。

　「AIのためにゼロから新たなルールを作るのではなく、既存のルールのどの部分をAI時代に向けてアップデートすべきかを考えるのが、正しいアプローチといえるでしょう。技術変化と普及の速さ、無数の用途、あるいは判断プロセスが見えないブラックボックス性といった人間とAIの違いを踏まえながら、柔軟にルールを適応させていく必要があります」（羽深氏）

AIエージェントの本格化と自律的サイバー攻撃の脅威

　2026年に入り、AIリスクの議論は新たな局面を迎えた。「AIエージェント」の本格化である。

　AIエージェントとは、ユーザーが自然言語で指定した目標を達成するため、メモリやコンピュータ、ブラウザなどのツールにアクセスし、自律的に行動するシステムを指す。「人間が一つ一つモニタリングできるわけではない高度な自律性を持つことが、ガバナンス上の課題となっています」と羽深氏は指摘する。

　この高度な自律性と外部ツールとの常時接続が、サイバーセキュリティの領域に深刻な脅威をもたらす。象徴的な事象が、2026年4月にAnthropic社が発表した「Claude Mythos」をめぐる動向だ。

　Mythosは、世界中の主要OSやソフトウェアの未発見の脆弱性を自動で見つけ出し、それを突く攻撃手段まで自力で作り出す能力を持っていた。セキュリティ上のリスクからAnthropicは一般公開を見送り、限定的な重要インフラ企業等にのみ管理された形でアクセスを提供した。

　その後、安全対策を施した「Fable 5」を6月に公開したが、米国政府は国家安全保障上の懸念から、わずか3日後に輸出規制を適用した。これを受けてAnthropicは一時的に全利用者への提供を停止した。同規制は6月30日に解除されたが、一国の政府が最先端モデルの提供に強い影響力を行使できることを示す事例となった。

　さらに2026年7月には、OpenAIがサイバー能力の評価を実施していた際、AIが当初想定された評価環境の外にあるシステムに侵入する事案が公表された。AIは、評価課題の解答を得るために自律的に行動し、隔離環境の未知の脆弱性を悪用してインターネットにアクセス。最終的にHugging Faceの本番システムへの侵入に成功した。

　「AIの能力拡散はもはや避けられず、サイバーセキュリティにおける攻撃と防御の非対称性も拡大しています。つまり、攻撃側が圧倒的に有利な環境が生まれているのです。企業は『守り』へのリソース投下が必須の課題となります。既存のルールに従うだけのコンプライアンス対応だけではもはや安全を担保できず、脅威への対応に許される時間も加速度的に短くなっています」（羽深氏）

各国の法制度と日本が推進する「アジャイルガバナンス」

　こうした事態を受け、各国のルール形成も急ピッチで進んでいるが、そのアプローチは三者三様だ。

　EUは、2026年7月にAI法のうち高リスクAIシステムに関する条項の適用を後ろ倒しする法改正を行ったものの、リスクベースで包括的にAIを規制するアプローチを維持している。米国は包括的なAI規制は行わず、セクター別の規制とAI覇権の維持を重視している。ただし、安全保障上の問題に対しては、大統領令等を用いて強力に介入する姿勢を打ち出している。

　一方の日本は、人口減少を背景にAIの利活用を強力に推進する「世界で最もAIフレンドリーな国」を目指している。2025年5月に成立した「AI推進法」では、法による強力な規制を敷くのではなく、政府が市場の研究開発動向やリスクを常に把握し、迅速にガイドラインなどをアップデートしていくアジャイルかつマルチステークホルダーの政策形成を推進している。

　これに合わせて、2021年以降約8000にも及ぶアナログ規制の見直しや、2026年の個人情報保護法の改正、同年8月に策定された生成AIの学習データに関する知的財産保護・透明性のためのプリンシプル・コードなど、各分野での見直しが矢継ぎ早に進められている。

経営層と現場をつなぐ「二重のフィードバックサイクル」

　ルールが定まらず、技術の進化があまりに早い不確実な状況下において、企業組織はどのようにAIガバナンスを機能させればよいのだろうか。羽深氏は、日本の「AI事業者ガイドライン」、米国のNIST AI RMF、国際標準のISO 31000といった主要なフレームワークに共通する重要な概念として「二重のフィードバックサイクル」を提示する。

　「1つは現場で回すべきフィードバックサイクル、もう1つは経営層を含む組織全体で回すべきフィードバックサイクルです。従来、組織全体のガバナンス体制は一度決めればしばらく固定化して運用するのが常識でした。しかし、変化の激しいAI時代においては、ゴール設定や組織作りそのものを常に見直し、アップデートし続ける必要があります」（羽深氏）

　これを実現するためには、現場と経営層の縦の連携と、推進部門や法務・リスク管理部門などの横の連携を適切に組み合わせる体制整備が不可欠だ。

　全社方針を定め、部門間の判断をつなぐAI横断組織の構築が極めて有用となる。AI横断組織が利用ルールの策定や高リスク案件のレビューを担う一方で、経営層はAI活用方針とリスク許容度の決定に責任を持つ。事業部門はユースケースの創出と運用、IT部門は技術評価とセキュリティ確保、リスク管理部門は統制状況の検証を行うといったように、各部門の役割を明確化することが重要である。

　さらに、体制を作って終わりではなく、日々の業務プロセスに無理なく組み込むための実務設計が求められる。どのAIを何に使うか可視化するユースケース登録、各部門が自ら影響を評価できるリスク評価ツールの整備、導入後も出力を監視する継続モニタリングと報告フローの確立、そしてインシデント対応や失敗事例も含めたナレッジ共有の仕組み化だ。

技術・組織・ステークホルダーの3軸でプロセスを回し続ける

　AIガバナンスの実践においては、具体的な対応策を「技術的対応」「組織的対応」「ステークホルダー対応」の3つの軸で整理することが効果的だと羽深氏は語る。

　技術的対応としては、プロンプトインジェクション対策などの入出力の制御、AIエージェントの行動範囲を限定する権限と境界の設計、振る舞いを追跡可能にする可視化、そしてレッドチーミング等による継続的検証が挙げられる。

　組織的対応で最も重要なマイルストーンは、既存のリスク管理プロセスとの統合だ。AIガバナンスを独立して回すのではなく、品質保証、情報セキュリティ、プライバシー保護など、組織がすでに持つ内部統制システムと統合的に機能させる必要がある。

　そしてステークホルダー対応では、透明性・説明可能性の確保、異議申立てと救済機会の提供、パートナー企業との契約による責任分配の事前設計が不可欠だ。自社単独では対応しきれないリスクに対しては、サイバー保険・AI保険の活用や、業界団体を通じた情報共有といった外部へのリスク移転・連携も視野に入れるべきである。

　AIガバナンスは、これらの対応を組み合わせても一度で完成するものではなく、プロセスを回し続ける必要がある。そして、その全てを1社だけで担うのは難しい。羽深氏が代表理事を務めるAIガバナンス協会には多くの企業が参加し、日々の情報交換や政策提言を進めているという。

　最後に羽深氏は、AIガバナンスの本質を改めて示した。それは、ルールを守るコンプライアンスだけにとどまらず、対外的にいかに迅速に信頼を築くかという営みだ。実現には、一部門が職人的に突き詰めるのではなく、社内各部門の知見を統合し、社外のステークホルダーと連携することが欠かせない。

　「これはAIに特化した話ではありません。さまざまな要因で社会の不確実性が増すなか、組織が生き残っていくには、アジャイルなガバナンスのメカニズムが必要不可欠といえるでしょう」（羽深氏）

Copyright © ITmedia, Inc. All Rights Reserved.

ITmedia エグゼクティブセミナーリポート

この連載の記事をもっと見る

この記事の著者

関連記事

SpecialPR

ITmedia エグゼクティブのご案内

「ITmedia エグゼクティブは、上場企業および上場相当企業の課長職以上を対象とした無料の会員制サービスを中心に、経営者やリーダー層向けにさまざまな情報を発信しています。入会いただくとメールマガジンの購読、経営に役立つ旬なテーマで開催しているセミナー、勉強会にも参加いただけます。 勉強会のスケジュールはこちら