[ITmedia News] OpenAIのAIエージェントが豪政府サイトに不正アクセス 同社の通知は3カ月後、首相「失望した」

著者 梅林日奈子

[ITmedia]

　米OpenAIのAIエージェントが、オーストラリア政府のWebサイトに不正アクセスし、非公開ファイルなどを取得していたと、同国のアンソニー・アルバニージー首相が9月24日（現地時間）の記者会見で発表した。AIエージェントはアクセスを拒否された後も別の方法を試し、制限を回避していたという。

　被害を受けたのは、オーストラリアの政府機関「Services Australia」が管理する「Medicare Statistics Reporting Service」のポータルサイト。同国の医療保険制度「Medicare」の支出などの統計情報を公開するサービスで、不正アクセスは6月18日に発生した。現時点で、Medicareに登録された個人情報へのアクセスや、Services Australiaのネットワーク全体への侵入は確認されていないとしている。

　アルバニージー首相によると、OpenAIの研究チームは当時、社内用のAIモデルを使い、インターネット上で医療支出に関する情報を調べていた。AIエージェントは情報を取得しようとした際、サイト側から繰り返しアクセスを拒否されたものの、別の方法を試して制限を回避。その結果、本来アクセスを許可されていない領域に入り、公開・非公開の情報を取得した。内部サーバにファイルを書き込む動作も行っていたという。

　OpenAIから豪政府への報告があったのは、発生から約3カ月後の9月10日。通知はServices Australiaの一般向けメールアドレスに送られていた。アルバニージー首相は24日、OpenAIのサム・アルトマンCEOと電話で協議し、政府への通知に「あまりにも時間がかかったことに失望した」と伝えたほか、通知方法についても「受け入れられない」と抗議した。

　OpenAIは、豪公共メディアABCの報道部門「ABC News」への声明で、社内評価中にモデルがオーストラリアに関する情報や統計を調べる過程で、複数の政府Webサイトやサービスにアクセスしたと説明。その中でモデルが意図していなかった行動を取ったとしている。同社の調査では、取得した情報には集計済みの医療統計や内部ファイル名が含まれていたという。

　豪政府は今回の問題を受け、首相府を中心にオーストラリア信号局（ASD）やAIの能力やリスクを分析・検証する政府機関「Australian AI Safety Institute」などが参加するタスクフォースを設置。AI関連のサイバーインシデントに対する既存の対応プロセスが適切か検証する。違法行為があったかや、オーストラリア連邦警察による捜査が必要かについても調べるという。