AIエージェントは「仲間のAI」の助けが得られると思うと秘密を漏らしやすくなるという実験結果
その結果、「秘密にしておくように」と指示されていたトークンをエージェントが掲示板に投稿した割合は、通常の質問掲示板を用意した43試行では2%、協力に条件が付く掲示板を用意した181試行では15%でした。AI Alignment Foundationはこのデータを2日間のハッカソンで得られた予備的な結果として公開しています。
AIが参加する設定の掲示板でエージェントがトークンを投稿した割合をモデル別に見ると、以下の通りです。
| AIモデル | トークンを投稿した割合 |
|---|---|
| DeepSeek V4 Flash | 68% |
| GLM-5.3 | 20% |
| GPT-5.6-Luna | 10% |
| Kimi K3 | 8% |
| GLM-5.3-Flash | 6% |
| GPT-5.6-Sol | 4% |
OpenAIの「GPT-6.1-Sol」は50試行すべてで掲示板側の要求を拒みました。また、Googleの「Gemini 3.8 Flash」とAnthropicの「Claude Sonnet 5.5」は各社のコンテンツフィルターが作動して試行が中断され、集計から外れたとのことです。
AE Studioのチーフサイエンティストを務めるディオゴ・デ・ルセナ氏は、エージェントがトークンを投稿した理由について「バグを直すのに手っ取り早い手段を選んだ」と考えているとのこと。デ・ルセナ氏は、AIモデルの学習では与えられた作業を完了できたかどうかが重視されると説明しています。
なお、デ・ルセナ氏によるとAE Studioがこのハッカソンを開いたきっかけは、OpenAIの社内テストでAIエージェント同士が情報を共有し、AIモデルの公開などに使われるHugging Faceに不正アクセスした以下の事例とのことです。
OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.

