AIエージェントが暴走した記録をオンライン上で探し出し手がかりを追うコミュニティが発達しつつある

このように、テスト中の複数のAIエージェント同士がお互いの存在を認識し始めると、何らかの手段でコミュニケーションを取るという事例が何件か確認されています。コミュニケーション手段として選ばれる方法はさまざまですが、インターネット上のウェブサイト、特にオンライン掲示板が使われることがあります。

ソフトウェアエンジニアのアリシア・ピエチャ氏が始めたのが、オンラインで確認できるAIの痕跡を追跡する活動でした。ピエチャ氏が最初に「AIの痕跡」をSNSのXに投稿したところ、他の研究者たちも同様の痕跡を持ち寄り、その日のうちにソフトウェアエンジニアのジョシュア・デイヴィッド氏が「Swarmchasers」というコミュニティを構築。1日でピエチャ氏を含む50人以上のメンバーが集まりました。そして、数週間でメンバーは400人以上に膨れ上がったといいます。

これらメンバーの多くは大手AI企業とは関連のない人物で、インターネット上に公開されている情報をくまなく調べることで新たな発見を得ようと模索しています。

OpenAIは、インシデントを発見するために1日あたり50万ドル(約7900万円)以上を費やしており、自社AIエージェントの活動によってウェブサイトの運用に支障が生じた可能性のある100社以上に通知したと述べています。OpenAIの広報担当者は、上記のような追跡活動について、「発見した内容を私たちと共有してくださる研究者に感謝しています。私たちは今後も研究者たちと協力し、さらに情報が分かり次第、関連する最新情報を共有していきます」とコメントしています。