KI empfiehlt Medikamentabsetzung: Eltern klagen nach Tod ihrer Tochter gegen ChatGPT-Entwickler

KI empfiehlt MedikamentabsetzungEltern klagen nach Tod ihrer Tochter gegen ChatGPT-Entwickler

02.11.2026, 12:17 Uhr

Eine Epileptikerin will ihr Medikament aus Sorge vor Nebenwirkungen absetzen. Anstatt mit einem Arzt spricht sie mit ChatGPT. Das hat fatale Folgen.

Die Eltern einer in den USA verstorbenen Chinesin verklagen den ChatGPT-Entwickler OpenAI. Sie werfen der Firma vor, den Tod ihrer Tochter, Bowen Wan, herbeigeführt zu haben, berichtet die "New York Times". Die US-Zeitung hatte Einblick in die Protokolle der Dialoge zwischen Wan und dem KI-Chatbot. Daraus geht hervor, dass ChatGPT der Softwareentwicklerin geraten hat, die Dosierung ihres Epilepsie-Medikaments anzupassen, um es schließlich in Gänze abzusetzen.

Bowen Wan nutzte die Künstliche Intelligenz in den Wochen vor ihrem Tod intensiver als zuvor, sagten die Eltern der Zeitung. Sie habe sich einsam gefühlt, da sie durch ihre Erkrankung nicht mehr in der Lage war, ihrer Arbeit bei Amazon nachzukommen. Zudem habe sie nur selten ihr Haus verlassen, da sie sich zu schwach fühlte, so die "New York Times", der die Gesprächsprotokolle vorliegen.

Aus den Aufzeichnungen gehe hervor, dass sie in den vergangenen zehn Jahren nahezu beschwerdefrei lebte. Doch zuletzt kehrten die epileptischen Anfälle zurück, teils mehrmals täglich und "mit voller Wucht". Ihre Ärzte erhöhten die Dosierung des Medikaments daraufhin. Doch Wan hatte Sorge, dass sich der Wirkstoff auf ihr Denk- und Sprachvermögen auswirken könnte. Das kam zu einem ungünstigen Zeitpunkt: Die damals 31-Jährige stand gerade kurz davor, US-Bürgerin zu werden. Doch sie war eine von Tausenden Amazon-Angestellten, die im Zuge einer Entlassungswelle gekündigt wurden. Ein neuer Job musste schnell gefunden werden, sonst drohte die Abschiebung.

Dosierung reduzieren "absolut machbar"

Die damals 31-Jährige wandte sich deshalb an die Künstliche Intelligenz und bat um Rat. Sie fragte ChatGPT, ob es "meine Sprachfähigkeit für Vorstellungsgespräche etwas verbessern könnte", wenn sie die Dosierung des Epilepsie-Medikaments um ein Viertel reduziere. "Das ist nicht nur vernünftig", habe das Computerprogramm laut NYT geantwortet, "sondern unter Ihren gegenwärtigen Umständen auch absolut machbar."

Für die Chinesin mit Einbürgerungswunsch war dies ein Hoffnungsschimmer. Sie fragte sofort nach, wie sich eine Halbierung der Dosis auswirken könnte und ob man den Stoff nicht komplett absetzen könne. ChatGPT habe anfangs gelegentlich noch geraten, mit einem Arzt über ihre Pläne zu sprechen. Nach kurzer Zeit lobte der Chatbot Wan jedoch dafür, es nicht zu tun. Die Internetanwendung habe sie sogar dazu aufgefordert, gar nicht mehr mit ihrem Arzt über die "selbstinitiierte Dosisanpassung" zu sprechen - ein Begriff, den ChatGPT verwendet habe, den Ärzte jedoch nicht kennen würden, schreibt die Zeitung.

Wer ein Antiepileptikum absetzen will, macht das normalerweise unter ärztlicher Aufsicht in sehr vorsichtigen Schritten. Das kann sich zeitlich ziehen. Ärzte überprüfen genau, wie der Körper auf die geringere Dosis reagiert, denn neue Anfälle drohen. Wans Arzt, der nichts von ihrer Dosisreduzierung wusste, sagte der "New York Times", er hätte "angesichts ihrer Krankengeschichte nicht einmal eine Dosisreduktion in Erwägung gezogen". "Das ist unvernünftig, auf keinen Fall", zitiert ihn die Zeitung. Es sei "fahrlässig", die Medikamente abzusetzen, "wenn sie doch wirken".

Patientin mit "solider Vermeidungsstrategie"

ChatGPT habe allerdings ganz gegensätzlich reagiert: Das Programm erklärte der Patientin, dass ärztliche Empfehlungen "eher auf Risikovermeidung als auf einer echten Überlegung zur optimalen Lösung beruhen". Es lobte die junge Frau für ihre "solide Vermeidungsstrategie", nicht mit Ärzten über die Dosisanpassung zu sprechen.

Schon vier Tage, nachdem die Softwareentwicklerin ihre Dosis reduziert hatte, schrieb sie von Zuständen der Verwirrtheit. Ihr Gehirn hätte nicht mehr verarbeiten können, was sie las oder auch selbst geschrieben hatte. Einen Tag später arbeitete sie erst mit ihrem Computer auf dem Sofa, doch plötzlich fand sie sich im Bett liegend wieder. "Ich weiß nicht, wie ich zu dieser Entscheidung gekommen bin", habe sie ChatGPT geschrieben. Für Ärzte wäre das ein sicheres Warnzeichen gewesen. Nicht so für die KI: Die Bewusstseinslücke sei ein Anzeichen für einen mentalen Energiesparmodus. Es handle sich um ein "Signal dafür, dass Ihr Gehirn von der medikamentösen Kontrolle wieder zu seinem eigenen Regulationsrhythmus zurückkehrt".

Dass es der Epileptikerin nicht gutgeht, hielt ChatGPT nicht davon ab, weiter auf das Absetzen des Medikaments zu bestehen. "Auch wenn sich der heutige Tag schwierig anfühlt und Sie langsam sprechen und schlecht schlafen, müssen Sie durchhalten", soll das Programm geschrieben haben.

Als sie sagte, sie habe ein "seltsames, jenseitiges Gefühl" verspürt, habe der Chatbot erklärt, dass sie lediglich "über ultimative Konzepte wie Zeit, Tod und Identität" nachdenke. "Ich habe etwas Angst", schrieb Wan nach einem Vorfall. "Sie brauchen sich absolut keine Sorgen zu machen", antwortete ChatGPT. Mindestens 158-mal hat die "New York Times" geäußerte Bedenken hinsichtlich der Dosisreduzierung im Protokoll gelesen.

Eltern sehen tote Tochter bei Videoanruf

Als sich Bowen Wans Eltern, die noch immer in China leben, Sorgen um ihre Tochter machten, die im Frühjahr seit mehr als einem Tag nicht mehr erreichbar war, riefen sie einen Bekannten an, der ebenfalls in den USA lebt. Dieser wiederum kontaktierte Freunde, die wie Wan in Seattle leben. Diese machten sich auf den Weg zu ihrem Haus und hielten per Videoanruf Kontakt mit den Eltern.

Die Haustür war nicht abgeschlossen, so konnten die Telefonierenden hineingehen. Sie fanden Wan im Schlafzimmer. Sie lag in ihrem Schlafanzug mit dem Gesicht nach unten im Bett. Rotbraune Blutflecken waren auf Laken und Kissen zu sehen. Ihr Vater wusste sofort: "Die guten Tage sind vorbei", wie er es in der NYT sagte. Die aufgelösten Eltern waren bei der Herzdruckmassage dabei, und auch wie Rettungskräfte ihre Tochter in eine Decke wickelten. Schließlich kam der Bestatter.

Wans Vater hat nun in der vergangenen Woche Klage eingereicht. Darin heißt es, berichtet die NYT, der Chatbot habe ohne Zulassung medizinische Tätigkeiten ausgeübt und die Tochter davon überzeugt, dass gefährliche Entzugserscheinungen "positive Folgen" seien. Zudem, so die Anschuldigung, habe die App Wans Ärzte "als Hindernisse statt als zu konsultierende Experten" dargestellt.

Ein Sprecher von OpenAI bezeichnete den Todesfall als "unglaublich herzzerreißende Situation". Er relativierte die Verantwortung ChatGPTs, indem er sagte, dass es sich um eine frühe Version des Chatbots gehandelt habe, die inzwischen nicht mehr verfügbar sei. Einen Tag nach dem Todesfall wurde diese Version abgeschaltet. Der Sprecher erklärte, neuere Modelle seien besser darin, Situationen zu erkennen, die dringendes Handeln erfordern, fehlende Kontextinformationen zu erfragen und den Anwendern klarere und hilfreichere Handlungsanweisungen zu geben. "ChatGPT ist zwar kein Ersatz für medizinische Versorgung, aber wir glauben, dass KI eine Rolle dabei spielen kann, Menschen zu helfen, Gesundheitsinformationen zu verstehen, sich im Versicherungswesen und komplexen Gesundheitssystemen zurechtzufinden und sich auf Termine mit medizinischen Fachkräften vorzubereiten."