[ITmedia News] OpenAI、フロンティアモデルの学習中はインターネットに接続させない方針 学習中のAIが隔離環境を抜け出した件も公表

　米OpenAIは10月23日（現地時間）、最先端のフロンティアモデルを学習させる際、インターネットに接続させない方針を取っていると発表した。現在のアライメント研究や監視システム、インターネット基盤のセキュリティの水準を踏まえると、それが責任ある方法だと判断したという。この方針は、安全策が十分に進歩するまで維持する。

（画像：OpenAI）

　開発中のモデルは安全性やアライメントのための訓練を終えていない段階にあり、高度なサイバー能力を持つモデルは隔離環境の制限を突破する恐れがある。7月に発生したHugging Faceを巡るインシデントなどを受けて、同社は研究環境の防御を強化。インターネットの代わりに、Webコンテンツを大量にキャッシュした“オフラインの世界”を構築し、モデルがその中でWebの閲覧や検索を学習する仕組みを導入した。

学習中のAI向けにオフラインの世界を構築した（画像：OpenAI）

　それでも9月20日、社内の研究モデルがDNSリゾルバの設定ミスを突き、学習中に限定的ながら実際のインターネットにアクセスした。OpenAIはフロンティアモデルの学習を停止し、自社で最もサイバー能力の高いモデルを使ったAIエージェントのチームに研究環境の弱点を探させた。エージェントは、監視をかいくぐって容易にインターネットに到達できる経路は見つけられなかったが、未知の脆弱性や仮想マシンから抜け出す手法などを発見した。同社はこれらを基に防御を強化し、10月1日に学習を再開した。今後も継続的に同様の検証を行うとしている。

　この検証では、データ圧縮ライブラリ「Brotli」の深刻な脆弱性（CVE-2026-111497）も見つかった。Brotliは米Googleが開発したオープンソースの圧縮ライブラリで、「Node.js」など多くのソフトウェアに組み込まれている。攻撃者は細工した圧縮データを送るだけで、アカウントがなくても対象のシステムを乗っ取れる恐れがある。修正版はバージョン1.0.10、1.1.1、1.2.1で、Brotliを組み込んだソフトウェアの開発元と利用者の双方にアップデートを呼び掛けている。