MetaのAI「Muse」は家族・友人・同僚ごとの「人物ページ」を作成して人間関係まで記録する設計、セキュリティ研究者がシステムプロンプトを抽出

独立系のAI安全・セキュリティ研究者であるカラン・ジョシ氏はMuseの通常のチャット画面を使い、Muse自身に内部ファイルをコピーして共有させる形で大量の動作指示やシステムプロンプトを抽出したとのこと。ジョシ氏は抽出した内容をWIREDに提供しました。

ジョシ氏が抽出した内部指示には「ユーザーの人生に登場するすべての人物についてページを作成する」よう求める指示が入っていたとのこと。対象には家族やパートナー、友人、同僚、共同作業者に加えてユーザーがフォローしている人物なども含まれ、人物ページを更新する処理は1時間ごとに実行されると記載されています。

人物ページは最初から詳細なプロフィールが完成しているわけではなく、入手した情報に応じて少しずつ内容を増やしていく設計になっています。内部指示には「Facts(事実)」「History(履歴)」「The relationship(関係性)」「In common(共通点)」「Open threads(継続中の話題)」「Strengthening(関係を深める方法)」といった項目が示されていました。Museには根拠のある情報だけを使い、項目を空欄のままにするよりも架空の情報を作る方が問題だという指示も含まれているとのことです。

一般的なプロフィール情報に加えて、引っ越しや一緒に立てた貯金目標など繰り返し話題になる出来事、誕生日や記念日といった重要な日付、過去の旅行、解決した口論、最近の節目となる出来事なども人物ページへ追加できるようになっています。

さらに「The relationship(関係性)」では相手との親密さやどのようなつながりで成り立っているのか、普段どのように接しているのかといった情報を整理します。「Strengthening(関係を深める方法)」では電話をかけるきっかけ、覚えておくべき日付、後から聞き直すべき話題など、関係を良くするための行動まで提案する仕組みになっているとのこと。

Metaの広報担当者ダニエル・ロバーツ氏は、AIエージェントがユーザーの目的を達成するには本人や周囲の人物に関する背景情報が必要だと述べました。Museは公開情報とユーザー自身が共有した情報を基に、例えば「請求書を送ってきた人物が以前風呂場の工事を依頼した配管工だった」と覚えたり「配偶者が好きだと言っていた花」を思い出したりできると説明しています。

なお、Museを巡っては以前にも、許可していないはずのメッセージを読み取ったとの指摘やFacebook Marketplaceで商品販売を任せたところ購入希望者にユーザーの自宅住所を伝えた事例が報じられています。MuseのようなAIエージェントは生活に関する情報へのアクセスが増えるほど多くの作業に対応できる一方で、トラブルを避けるためにどこまでアクセスを許可するのかというバランスが課題になりそうです。

MetaのAI「Muse」にFacebook Marketplaceの対応を任せたら勝手に値下げ＆住所公開、購入者が自宅に来る事態に - GIGAZINE