[ITmedia エンタープライズ] 「AIセキュリティをやれ」と言われたIT部門へ 100点を目指さず、“見る”ことから始めよう

　海外でAIエージェントを巡る攻撃や事故のニュースが相次ぐ中、日本企業のIT部門には経営層から「AIのセキュリティ対策を進めよ」という号令が届き始めています。しかし、何をどこまでやればよいのかを具体的に描けている現場は多くありません。人も予算も限られたIT部門は、何から手を付けるべきなのか。日々お客さまと向き合うエンジニアの立場から、全2回で考えます。

　この1年で、AIを巡る脅威は多くの組織が消化しきれないほどの速さで変化しました。自律的に判断し、業務を実行するAIエージェントは、既に企業の内外で動いています。自社の開発チームが作ったものもあれば、攻撃者が操るものもあり、それらは人間とは比べものにならない速度と規模で意思決定を下します。

　問題は、多くの組織がこの新しい種類の脅威を、エージェント以前の時代に作られた「型」で管理しようとしていることです。エージェントが実際にどう振る舞い、どう失敗し、何にアクセスできるのか。それを踏まえた備えが必要になっています。

　とはいえ、日本の現場の実感は少し違うかもしれません。筆者が見る限り、業務の中でAIエージェントを本格的に稼働させている企業は、まだ限られています。一方で、従業員がブラウザやデスクトップアプリで生成AIを使うのは既に日常の風景です。普段使っているSaaSにエージェント機能が組み込まれる例も増えています。IT部門が「導入した覚えがない」というだけで、社内に存在しないことにはならないのです。

　ただし、導入が進んでいないからといって、リスクが低いわけではありません。攻撃者は、私たちが追い付くのを待ってはくれません。既にエージェント型AIを使って偵察を自動化し、攻撃の規模を広げ、これまでにない速さで弱点を探っています。自社がエージェントを1つも導入していなくても、エージェントによる攻撃には備えなければならないのです。だからこそ、備えるべきは普及が進んでからではなく、今です。

　最近お客さまと話していて強く感じるのは、AIセキュリティの取り組みが「上から降ってきている」ケースの多さです。インシデントが報じられる。自社もAIを導入しようとしている、あるいは従業員がセキュリティ部門の承認を得ないまま、既にAIを試しているかもしれない。そう気付いた経営層が、後れを取るわけにはいかないと判断し、指示を出すのです。その指示は「何とかしてくれ」という程度のこともあります。

　ただし、そうした指示は「AIセキュリティはこうあるべき」という原則や、準拠すべき標準・フレームワークの名前にまでは落とし込まれても、実際の導入にまで落とし込まれることはほとんどありません。IT部門は方向性こそ理解できても、具体的に何を導入し、どう設定し、どう進めるのかを決めるところで苦労しています。

　筆者はこの状況に既視感を覚えています。約10年前、「クラウドに移行し、そのセキュリティを確保せよ」と経営層から言われたものの、何から手を付けていいか分からない。そんなIT部門の方々と、当時も数多く議論しました。経営層が思い描く姿と、IT部門が現実に実現できることの間に大きな隔たりがある点も当時とよく似ています。

「大きな事故が起きたら動く」でよいのか

　現場では「大規模なインシデントが起きれば、対策は一気に進むだろう」という声もよく耳にします。実際、国内で相次いだ大規模なランサムウェア被害は、多くの企業に対策を見直すきっかけを与えました。AIエージェントについても、大きな被害をきっかけに対策が一気に進むという同じ流れになる可能性は高いと思います。

　しかし、国内のどこかの企業が被害に遭うのを待ってから動くという姿勢は、決して健全ではありません。その企業は自社かもしれないからです。

　しかも、エージェントの失敗は人間の失敗とは形が違います。エージェントは存在しない手順を作り出したり、不完全な情報を基に行動したり、攻撃者が仕込んだ指示に従ったりします。与えられた範囲を超えて動いたり、人間ならしないような操作を次々につなげたりすることもあります。事故が起きてから初めてこうした振る舞いに向き合うのでは、原因を突き止めることさえ難しいでしょう。

最初から「100点の対策」を求めない

　AIアプリやモデル、エージェントを横断して、可視化、データ保護、アクセス制御を一元的に担う包括的なAIセキュリティ基盤は、既に存在します。では、そうした包括的なソリューションを今すぐ導入すべきなのでしょうか。筆者の答えは「否」です。

　日本企業には、特に上から降りてきた指示の場合、初日から完璧で最も網羅的な枠組みを目指す傾向があるように感じます。しかし、完璧を目指せばそれだけ重い計画プロセスが必要になり、取り組みや導入そのものが遅れてしまいます。その間にも、AIのリスクは速いペースで変化し続けます。筆者の経験では、最も効果的な導入は段階的に進めるものです。そうすれば、リスクの状況の変化に合わせて、より機敏に対応できます。

　大切なのは、方向性は決めつつ、中身を100点で固めてしまわないことです。現実的な最初の一歩を決め、小さく始めて、変化に合わせて修正していく。経営層への説明も「完璧な対策」ではなく「今どこまで見えていて、次に何をするか」を軸にした方が、費用対効果も示しやすくなります。

最初の一歩は「可視化」

　では、その最初の一歩とは何か。筆者は、迷わず「可視化」だと考えています。何が使われていて、何が行われているのか。クラウドのときもそうでしたが、見えないものは守れません。

　出発点は、従業員がIT部門の把握していない生成AIを使う「シャドーAI」の把握です。どの部署の誰が、どのAIサービスに、どんなデータを渡しているのか。これが見えなければ、リスクの大きさも評価できません。

　その先にあるのが、従業員や部門が独自に導入するAIエージェントやAIモデル、いわば「シャドーエージェント」や「シャドーモデル」です。自律的に動くエージェントは、一見すると把握が難しそうに思えます。しかし、エージェントのアクセス先も、その多くはクラウドのリソースやAIサービスです。その通信を押さえられれば、振る舞いを観察することはできます。自律的に動くものをどう制御するかは、その次の段階の課題です。

可視化の際には、少なくとも次の4点を把握したいところです。

1. どのAIサービスやエージェントが、社内で使われているか
2. それぞれが、誰の（どの）IDで動いているか
3. どのデータやシステムにアクセスできるか
4. どんな判断や操作を許されているか

　この棚卸しがなければ、どれだけ高度な対策を入れても守る対象が定まりません。逆に言えば、ここが見えれば、アクセス範囲の広過ぎるエージェントなど、優先して手を打つべきポイントが自然と浮かび上がります。

新たに買う前に今ある基盤を見直す

　可視化のために、必ずしも新しい製品を一から導入する必要はありません。多くの企業は既に、クラウド利用の管理やWebアクセスの制御、エンドポイント対策などの仕組みを持っています。その基盤にAI利用の可視化機能が備わっていないか、追加で有効にできないかを、まず確かめてみてください。

　実際、筆者が見る限り、現時点でAI対策のためだけに一から仕組みを導入する企業は多くありません。既存のセキュリティ基盤の延長線上で、できるところから始めるのが現実的です。

　可視化はあくまで出発点です。エージェントが本格的に業務を担うようになれば、いずれ予期せぬ振る舞いや事故は避けられません。そのとき、「何が起きたのか」を経営層に説明できるでしょうか。次回は、事故に備えた記録と体制の在り方、そしてAIエージェントがIT部門の組織をどう変え得るかを考えます。

著者プロフィール：Netskope Japan株式会社　小林宏光（シニアソリューションエンジニアマネージャー）

2018年7月に、Netskope入社。初期メンバーのSEとして、以後Netskopeソリューション／製品の技術的な啓発と、日本市場のユーザーやパートナーへのノウハウの浸透を支援しています。Netskope入社以前は、チェック・ポイント・ソフトウェア・テクノロジーズ 技術本部長、アルバネットワークス シニアコンサルタント、ジュニパーネットワークス パートナー技術本部SEマネージャーなどを担当。またそれ以前にはAT&T/Lucent Technologiesにおいて通信事業者向け音声/移動体インフラSEを長年担当し、ネットワークとネットワークセキュリティに35年以上幅広い経験を持ちます。1992年、大学卒業後にAT&T Japan入社。Lucent Technologies在籍時には2年間の米国ニュージャージー州での勤務を経験。