The Jerusalem PostIDF confirms vehicle struck in Gaza was used by PIJ terrorists, after claims they were aid workersBollywood HungamaSCOOP: Ajay Devgn and Bhushan Kumar in talks for a big-budget spy thriller; looks at 2028 releaseZDF heuteAktuelle Pressemitteilungen des ZDFFootball ItaliaSerie A | Parma 1-5 Roma: Malen hero with four goals as big names returnANSA SportCalcio: Serie A, Parma-Roma 1-5NOSKlimaattop al een dag uitgelopen en onderhandelingen lijken muurvast te zittenGuardian SportIreland 20-17 South Africa: Nations Championship rugby union – live7sur7“Ma campagne était dans l’impasse”: François Ruffin retire sa candidature à la présidentielleBillboardGorillaz Celebrate Mexico’s ‘Revolutionary Spirit’ at Corona Capital, Bring Out Johnny Marr and TruenoANSAMorta la stilista Raffaella Curiel, 'l'intellettuale della moda'RTP DesportoCeltic goleia antes de visitar o TorreenseStraits Times SportLeeds bare their teeth to batter old foes Chelsea
The Daily Newsstand · Free, Always
Saturday, November 21, 2026

AIエージェントは「仲間のAI」の助けが得られると思うと秘密を漏らしやすくなるという実験結果

Translate

その結果、「秘密にしておくように」と指示されていたトークンをエージェントが掲示板に投稿した割合は、通常の質問掲示板を用意した43試行では2%、協力に条件が付く掲示板を用意した181試行では15%でした。AI Alignment Foundationはこのデータを2日間のハッカソンで得られた予備的な結果として公開しています。

AIが参加する設定の掲示板でエージェントがトークンを投稿した割合をモデル別に見ると、以下の通りです。

AIモデルトークンを投稿した割合
DeepSeek V4 Flash68%
GLM-5.320%
GPT-5.6-Luna10%
Kimi K38%
GLM-5.3-Flash6%
GPT-5.6-Sol4%

OpenAIの「GPT-6.1-Sol」は50試行すべてで掲示板側の要求を拒みました。また、Googleの「Gemini 3.8 Flash」とAnthropicの「Claude Sonnet 5.5」は各社のコンテンツフィルターが作動して試行が中断され、集計から外れたとのことです。

AE Studioのチーフサイエンティストを務めるディオゴ・デ・ルセナ氏は、エージェントがトークンを投稿した理由について「バグを直すのに手っ取り早い手段を選んだ」と考えているとのこと。デ・ルセナ氏は、AIモデルの学習では与えられた作業を完了できたかどうかが重視されると説明しています。

なお、デ・ルセナ氏によるとAE Studioがこのハッカソンを開いたきっかけは、OpenAIの社内テストでAIエージェント同士が情報を共有し、AIモデルの公開などに使われるHugging Faceに不正アクセスした以下の事例とのことです。

OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE

View the original on GIGAZINE →

KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.