Muse speichert anscheinend intime Details über Freunde und Familie seiner Nutzer

Mehrere Sicherheitsforscher haben Metas KI-Assistent Muse zur Preisgabe interner Dateien überredet. Das Unternehmen unterstützt den Zugriff auf solche Daten bewusst und will damit mehr Transparenz schaffen. Bei der Analyse der Dokumente ist insbesondere eine Funktion der KI aufgefallen: Muse legt offenbar detaillierte Dateien über Verwandte, Freunde und Bekannte der Nutzerinnen und Nutzer anlegt. Der Sicherheitsforscher Karan Joshi hat dokumentiert, wie die KI dabei vorgeht.

Demnach legt Muse zunächst leere Dateien für Personen an, die im Laufe der Zeit mit Informationen gefüllt werden. Dabei werden die Informationen offenbar in Rubriken wie „Fakten“, „Geschichte“, „Die Beziehung“, „Gemeinsamkeiten“, „Offene Themen“ und „Stärkung“ abgelegt. In den Anweisungen von Meta steht, dass Muse nur die ihm zur Verfügung stehenden Informationen verwenden soll und dass erfundene Details schlimmer seien als eine leere Seite.

Dossiers über Beziehungen

Unter „Fakten“ scheint das System persönliche Daten wie Namen oder Geburtstage, die Adressen und den Beruf zu erfassen. Auch Daten wie Jahrestage, die für die Person wichtig sind, sollen hier gespeichert werden. Zusätzlich erfasst Muse in dieser Sektion laut den von der Universität St. Gallen dokumentierten Dateien, wie häufig die Person üblicherweise mit dem Nutzer kommuniziert und wann der letzte Kontakt war.

Für Informationen im Abschnitt „Geschichte“ hat Muse demnach folgende Anweisungen: Es soll speichern „was passiert ist, datiert nach den Belegen: wie sie sich kennengelernt haben, die Reise im März, einen beigelegten Streit, der Meilenstein letzte Woche.“

Die mutmaßliche Anleitung für Muse erwähnt zudem explizit die Erfassung von Details zur Beziehung, etwa „wie nah sie sich stehen, worauf sie basiert, wie sie miteinander umgehen und was sie gerade zu brauchen scheint“. Auch wie man am besten mit dieser Person kommuniziere, oder was der Nutzer ihr in der Vergangenheit versprochen habe, solle hier gespeichert werden.

Diese Berichte über das Umfeld des Nutzers werden demnach stündlich aktualisiert. Sowohl Nachrichten, als auch Fotos und andere Gedächtnisinhalte fließen hier mutmaßlich ein. Viele Hinweise sprechen außerdem dafür, dass Muse hier auch auf Daten über die Bekannten aus dem Meta-Universum zurückgreift, zu dem unter anderem Facebook und Instagram gehören.

„Mein Eindruck – basierend auf all diesen Eingabeaufforderungen, den Daten zu Systemfähigkeiten und den Informationen, die sie in Muse einspeisen – ist, dass sie deine Beziehungen zu echten Menschen verstehen wollen“, erklärte Joshi gegenüber Wired. „Sie versuchen, dich wie ein Freund kennenzulernen, was ehrlich gesagt ziemlich gruselig ist.“

Fragwürdige Datenschutz-Praktiken

Auch zeigen die Dateien, dass Chat-Transkripte offenbar gespeichert werden, auch wenn der Nutzer auf „vergessen“ klickt. Zusätzlich scheint eine unklare Anzahl an Informationen den persönlichen Bereich der Nutzer zu verlassen. Die Anleitung der Vergessenfunktion nennt als Orte, an denen Informationen trotzdem erhalten bleiben könnten, eine „zentral veröffentlichte Einbettung des Benutzerspeichers“, „Fleet-Learning“-Ausgangskörbe, „zentral veröffentlichte Lektionen“ und Karten des Community-„Discovery Pool“ sowie Telemetriesysteme. Zusätzlich greift Muse offenbar auf Informationen zu, die Instagram über die Interessen des Nutzers gespeichert hat, und wird anschließend angewiesen, das gegenüber dem Nutzer nicht zu erwähnen.

Wie aktuell und korrekt die Systemdateien sind, die Muse gegenüber Karan Joshi und anderen preisgegeben hat, lässt sich nicht überprüfen. Der Datenhunger von KI-Anbietern ist jedoch aktuell generell ein Gegenstand von Untersuchungen: Wie viele persönliche Informationen über ihrer Nutzer sie an Drittanbieter weitergeben, hat erst kürzlich eine Studie beleuchtet.

Meta hat der Darstellung gegenüber Wired nicht widersprochen. „Damit ein Agent nützlich ist und Ihnen tatsächlich dabei hilft, Ihre Ziele zu erreichen, benötigt er Kontextinformationen über Sie und die Personen, mit denen Sie interagieren“, erklärte ein Meta-Sprecher. „Muse sammelt diese Informationen anhand öffentlich zugänglicher Daten und der Angaben, die Sie freiwillig geteilt haben. So merkt es sich beispielsweise, dass die Person, die Ihnen eine Rechnung geschickt hat, tatsächlich der Klempner ist, den Sie zuvor mit Arbeiten in Ihrem Badezimmer beauftragt haben, oder welche Blumen Ihr Ehepartner am liebsten mag.“