[ITmedia News] Google、人間の関与なしに脆弱性を見つけて悪用するAIフレームワークを初めて観測 GTIGのAI脅威レポート
米GoogleのGoogle Threat Intelligence Group(GTIG)は11月16日(現地時間)、攻撃者によるAIの悪用状況をまとめた四半期レポート「GTIG AI Threat Tracker」の2026年第4四半期版を公開した。攻撃者がAIに手作業で指示を出す段階を越えて、複数のAIエージェントを組み合わせて攻撃を自律的に進める段階に移りつつあると指摘。人間の関与なしに脆弱性の発見から悪用までを行うよう構成されたLLMフレームワークを初めて確認したという。
攻撃者が使うマルチエージェント型の攻撃フレームワーク。指揮役のエージェントが、偵察や侵入、権限昇格などの各段階を専門のエージェントに自律的に実行させる(画像:Google)
GTIGが見つけたのは、アクセス可能な状態になっていた攻撃準備用のサーバに置かれていた「exploit_agent」と呼ばれるフレームワークだ。複数の最先端LLMやローカルLLMと連携し、広く使われているWebアプリについて、修正パッチの公開前後のソースコードを継続的に比べて脆弱性を探す。発見すると直ちに攻撃コード(エクスプロイト)を作り、人手を介さずに実行する仕組みだった。サーバには被害者から盗んだデータのほか、侵入後の内部調査や、遠隔操作用の不正プログラム「Webシェル」の設置などを行うスクリプトもあった。他の攻撃者が置いたWebシェルを削除するスクリプトも含まれていた。設定ファイルにはロシア語のコメントが書かれていた。
GTIGによると、LLMでこうした分析を自動化すると、パッチが公開されてから攻撃に使われるまでの期間が大幅に短縮されるという。2026年1月~8月に公開された脆弱性とエクスプロイトの数は、ほぼ倍増した。修正前の脆弱性を突くゼロデイ攻撃は、2025年には月平均8件だったのが2026年には月11件になり、8月は22件に急増した。一方で、LLMで作られたとみられる動作すると見せかけて実際には機能しない攻撃コードも大量に出回っており、その検証が防御側の負担を増やしているとした。
悪用された脆弱性の月別件数(2025年1月~2026年8月)。濃い青がゼロデイ、薄い青はパッチ公開後に未適用のシステムを狙って悪用された“nデイ”(画像:Google)
レポートでは、攻撃キャンペーンでの新しいAIの使い方も紹介している。北朝鮮との関連が疑われる攻撃グループ「UNC6836」は、北米や欧州の暗号資産関連組織への攻撃で、AIで作った偽のリクルーターのプロフィールを使って標的に近づいた。プロフィール画像には、GoogleのAI生成コンテンツ用電子透かし「SynthID」が含まれていたという。侵入後は社内のコードリポジトリにある、米Anthropicのコーディングエージェント「Claude Code」の設定ファイルを書き換え、開発者がClaude Codeを起動するとバックドア型のマルウェアが自動的にダウンロードされるよう仕込んでいた。
世論工作では、GoogleのGemini APIなど複数のAIを使って、偽のペルソナの作成から投稿までを自動化するプラットフォームの開発も確認された。AIに地域の方言やスラングをまねさせ、わざと誤字を入れて人間らしく見せたり、スマートフォンで撮影したかのような、画質が粗く照明にムラのある画像を生成させたりしていた。別の業者は、10万以上のアカウントを管理するプラットフォームを開発していた。このプラットフォームでは、新しく作ったアカウントがすぐに不審と判定されないよう、LLMを使って投稿を眺める時間やスクロールのような人間の利用者の行動を模倣させ、一定期間「熟成」させてから本来の工作に使う仕組みだった。
盗んだ認証情報で企業のクラウド環境に入り込み、その企業の負担でLLMを使ったり、利用権を転売したりする「LLMJacking」も広がっている。GoogleのセキュリティサービスMandiantが対応した事例では、不正な利用料金が1日で10万ドルを超えたケースがあった。最も深刻なケースでは、対処までに累計100万ドルに達した。
Googleは、確認した攻撃者に関連するアカウントやプロジェクトを無効化した。また、得られた知見をGeminiの分類器やモデルの強化に生かし、こうした攻撃への協力を拒否できるようにしたとしている。
最近発表した「Gemini 4 Carbon」には、実際に使える攻撃コードやマルウェアの開発依頼を防ぐ対策を何重にも組み込んだという。一方で、審査を通った防御担当者やセキュリティ研究者、政府機関には、攻撃と防御の両方に使える高度な機能を「Fairwind Program」を通じて提供している。
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.