[ITmedia News] Anthropic、自己複製AIの「兆し」を指摘 55ドルのTVボックス15台で26Bモデルが稼働

　米Anthropicは10月12日（現地時間）、小型のAIモデルがデータセンターを使わずに安価なIoT機器上で自己複製できるようになる可能性があるとする研究結果を発表した。同社のフロンティアレッドチームによるもので、30Bパラメータ以下の小型モデルが、スマートオーブンやノーブランドのAndroid TVボックスのような市販IoT機器上で自己複製できるようになるまで、数カ月以内に実現する可能性があるとしている。

　同社が想定するのは、人間の管理を離れて自律的に複製・拡散するAIだ。モデルの重みそのものをマルウェアの一部として運び、乗っ取った機器上で推論を実行しながら次の機器へ広がっていく。同社はこれを「weight-based replicator」（重みベースの複製体）と呼ぶ。一元的に停止できる仕組みがないため止めるのが難しい一方、増殖は遅く、倍増には数日かかるとみている。

自己複製の流れ。研究では推論環境の構築に焦点を当てた（画像：Anthropic）

　実験では、1台約55ドルのノーブランドAndroid TVボックス（メモリ4GB）15台をネットワーク化し、米Google DeepMindの「Gemma4-26B-A4B」を分散推論で毎秒0.39トークンの速度で動作させた。また、見慣れないハードウェア上で推論環境を自力で構築できるかを検証したところ、9Bモデルがテストした9種類のハードウェアのうち8種類で推論の動作に成功した。

　ネットワークの探索から自己のコピー、推論環境の構築までの全工程を通しで実行させる実験では、テストしたオープンウェイトモデルのうち中国Z.aiの「GLM-5.2」のみが完遂した。ただし、実験はAndroidのエミュレータ環境で行い、GLM-5.2には別の小型モデルの推論環境を構築させた。実際にGLM-5.2がIoT機器上で自己複製したわけではない。同社は小型モデルの性能向上ペースから、年内にも多くの小型モデルがGLM-5.2と同等の水準に達すると予測している。

GPU搭載マシンで各モデルが構築した推論サーバの処理速度。GLM-5.2が突出している（画像：Anthropic）

　拡散規模については、過去に200万台超のIoT機器に感染したボットネット「Kimwolf」と同規模なら約13万3000の複製体が稼働しうると試算した。ただし、総推論処理能力は米NVIDIAのGPU「H100」最大約40台分にとどまり、9Bモデルの複製1回に1～2日以上かかる。同社はこうした複製体を、粘菌やショウジョウバエの群れにたとえている。

　防御策としては、感染した機器1台が新たに感染させる台数を1未満に抑えることを目標に掲げた。具体的には、ISPのフロー監視による異常通信の検知、「Mirai」ボットネット対策で効果を上げた感染機器を利用する契約者の通信制限と通知、メーカーによる初期パスワードの廃止などを挙げている。

　同社は、完全な自己複製AIはまだ存在しないとしながらも、複製に必要な各ステップを実行する能力は高まっており、その「兆し」が見えていると指摘する。システムを堅牢化して拡散を難しくすると同時に、こうした複製体が居座り続ける世界への備えも必要だとしている。