Sogar Chatverläufe: KI-Anbieter geben Daten ihrer Nutzer weiter

Eine neue Studie vom IMDEA Networks Institute hat untersucht, wann welcher Chatbot welche Daten über seine Nutzer an Drittparteien weitergibt. Das Ergebnis: Alle geben Daten weiter – teils seien sogar Zugriffsdaten zu ganzen Chatverläufen der Kunden dabei.

Im Rahmen der Studie, die momentan noch ein ungeprüftes Preprint ist, untersuchten die Wissenschaftler und Wissenschaftlerinnen neun KI-Anbieter: ChatGPT, Claude, Gemini, Grok, DeepSeek, Perplexity, Le Chat, Meta AI und MS Copilot. Manche der Drittanbieter, an die sie Daten weitergeben, sind Werbetracker, andere externe Dienstleister – viele beides gleichzeitig.

Sogar Chat-Inhalte werden verkauft

Neben einer ganzen Reihe von Metadaten teilen laut der Studie fünf der neun untersuchten KI-Anbieter beim Zugriff über den Browser sogar Permalinks zu den Chatverläufen mit Datentrackern. Das heißt, diese könnten, sofern es wie bei vielen KI-Anbietern keine Zugangsbeschränkungen gibt, dann auf die Unterhaltungen zugreifen, die Nutzer mit ihrer KI führen. Und damit auf alle Inhalte, die man als Kunde so mit einer KI bespricht. Bei 40 Prozent davon könne man die Weitergabe verhindern, indem man nicht notwendige Cookies ablehne, so die Ergebnisse der Untersuchung. Bei 60 Prozent geht das nicht.

Um herauszufinden, ob diese Chats von den Drittanbietern dann auch tatsächlich über die Permalinks abgerufen werden, platzierten die Forscher und Forscherinnen Canary URLs, eine Art digitale „Falle“, in ihren untersuchten KI-Chats. Bei mehreren KI-Anbietern lösten diese in dem Moment aus, in dem der Chat mit Drittanbietern geteilt wurde, so die Studie. Bei Grok wurde der Alarm des Canary laut den Forschern auch im Nachhinein noch mehrere Male ausgelöst, was mutmaßlich bedeutet, dass Externe noch einige Male auf den KI-Chat zugegriffen haben.

Neben den Permalinks teilen wohl 33,3 Prozent der untersuchten KI-Anbieter Zusammenfassungen mit ihren Werbepartnern, worin es in den einzelnen KI-Chats ging. Diese automatisch generierten Beschreibungen enthielten teilweise tiefe Einblicke in das Leben der Nutzer. Die Studie nennt Beispiele wie „Was sind die Symptome der Parkinson-Krankheit im Frühstadium?“ oder „Mein Gehalt beträgt 85.000 Dollar. Wie hoch kann meine Hypothek in New York City sein?“ Auch der Standort der Nutzer würde in einzelnen Fällen mit Drittanbietern geteilt.

Bei vielen KI-Anbietern werden all solche Informationen laut der Studie zusammen mit E-Mail-Adressen und dauerhaften Benutzerkennungen geteilt – auch im Inkognito-Modus von Browsern. Damit sind die Daten in der Regel nicht mehr anonym. Denn solche IDs werden Internetnutzern von Datenhändlern zugeteilt und identifizieren sie anschließend eindeutig über Plattformen hinweg. So arbeitet etwa LiveRamp unter anderem für seine Zusammenarbeit mit OpenAI mit seiner sogenannten RampID – einer pseudonymen Kennung, die OpenAI nutzt, um ChatGPT-Nutzer für gezieltes Werbe-Targeting zu identifizieren. Sofern man nicht entsprechende Schutzmaßnahmen ergreift.

Kaum Widerspruchsmöglichkeiten

Selbst wenn „nicht notwendige Cookies“ abgelehnt werden, blieben laut der Studie 80,8 Prozent der Tracker von Drittanbietern aktiv. Wenn Nutzer alle Cookies akzeptierten, schalten manche KI-Anbieter wohl gezielt noch weitere Tracker ein. Auch ein Abonnement mache kaum einen Unterschied: Kostenlose und Premium-Kunden werden von weitgehend identischen Drittanbietern getrackt, so die Wissenschaftler.

Insgesamt fanden die Forscher im Rahmen ihrer Untersuchung wohl 44 Tracking- oder Werbe-Drittanbieter, die Daten von den KI-Anbietern erhalten. Sie betonen aber, dass diese von Testlauf zu Testlauf variieren können. Tracker von Google seien bei allen KI-Anbietern am weitesten verbreitet, gefolgt von bekannten Datentrackern wie Sentry, Meta, Datadog und Intercom. Auch Unternehmen, die man nicht in erster Linie mit ihrer Datensammlungspraxis assoziiert, sind dabei – wie TikTok, Apple und X.

Dass nicht nur KI-Dienste, sondern auch andere vernetzte Produkte Daten in großem Umfang weitergeben, zeigt eine aktuelle Studie dazu, wie gewöhnliche Pkw die Daten ihrer Nutzer an Drittanbieter verkaufen.