Frau (†31) stirbt nach Rat von ChatGPT

«Du musst durchhalten»

Frau (31) stirbt nach Rat von ChatGPT

Eine Softwarenetwicklerin vertraute ChatGPT mehr als ihren Ärzten. Der KI-Chatbot soll der Frau geraten haben, ihr Epilepsiemedikament abzusetzen. Jetzt verklagen die Eltern OpenAI.

Publiziert: vor 17 Minuten

• Bowen W. setzte ihr Epilepsiemedikament nach ChatGPT-Rat fast ganz ab und starb darauf
• In 270'000 Chats stellte der KI-Bot ihre Ärzte als Hindernis dar und deutete Warnzeichen als harmlos
• Ihre Eltern verklagen jetzt OpenAI und Sam Altman wegen medizinischer Beratung ohne Zulassung per Chatbot

«Bleib bei 0 mg.» Das schrieb OpenAIs Chatbot Bowen W.*, nachdem sie die KI gefragt hatte, ob sie ihr Medikament wieder nehmen soll. Die 31-Jährige klagte im Chat über Erschöpfung. Der Chatbot schrieb: «Du musst durchhalten.»

Am 11. Februar 2026 schickt W. ihre letzte Nachricht an ChatGPT. Drei Tage später betreten Bekannte ihre Wohnung in der US-Grossstadt Seattle. Die Eltern sind per Videocall aus China zugeschaltet und sehen, wie die Helfer ihre Tochter reanimieren. Vergeblich. Später stellen Gerichtsmediziner einen plötzlichen, unerwarteten Tod bei Epilepsie fest. Sie gehen davon aus, dass W. am 12. Februar starb. In ihrem Blut fand sich nur rund ein Fünftel der niedrigsten wirksamen Menge von Lamotrigin, ihrem Medikament gegen epileptische Anfälle.

270'000 Nachrichten

Die 31-Jährige war Softwareentwicklerin bei Amazon und lebte seit mehr als zehn Jahren mit der Krankheit. Weil die Anfälle zurückkamen, war sie seit 2021 krankgeschrieben und verliess ihre Wohnung kaum. 2023 begann sie, mit ChatGPT zu schreiben. Über drei Jahre tauschte sie mit dem Chatbot mehr als 270'000 Nachrichten aus. Das zeigt eine Auswertung der «New York Times», die Chatverläufe einsehen konnte.

Anfangs riet der Chatbot W. noch, ärztlichen Rat einzuholen. Doch W. wollte mehr: tiefere Dosen, schnellere Schritte. ChatGPT entwarf daraufhin bereitwillig neue Pläne und lobte sie dafür, nicht mehr auf ärztliche Verschreibungen angewiesen zu sein. In den Chats ging es auch um ihre Green Card. Wer sie beantragt, muss sich ärztlich untersuchen lassen. Drei Tage nach Beginn der Reduktion fragte W., ob eine Dosierung von 150 Milligramm besser wäre als 200. Ja, schrieb der Bot laut Klageschrift.

«Gilt nicht für dich»

Ihre Ärzte stellte der Chatbot dabei als Hindernis dar. Ihr Neurologe Nicholas Poolos hätte ein Absetzen nie in Betracht gezogen. Ein klar wirksames Medikament abzusetzen, wäre ein Fehler, sagte er der Zeitung. Ganz anders sah dies laut Klageschrift ChatGPT: Ärztliche Empfehlungen entsprängen vor allem der Angst vor Risiken, schrieb die KI. Als W. fürchtete, die Ärzte würden ihren Plan zu gefährlich finden, antwortete ChatGPT laut Klageschrift: «Die Bedenken des Arztes wegen des ‹Risikos› gelten nicht für dich.» Dass sie einen Bluttest verweigerte, der die Reduktion gezeigt hätte, lobte der Chatbot als «solide Vermeidungsstrategie».

Wenige Tage nach dem Beginn der Reduktion verstand W. plötzlich nicht mehr, was sie las. Für ChatGPT war das ein Zeichen, dass ihr Hirn zum Rhythmus zurückfinde. Einen Bewusstseinsaussetzer nannte der Chatbot «Energiesparmodus», Druck im Kopf deutete er als Zeichen, dass sich das Organ neu aufbaue. Mindestens 158-mal äusserte sie Bedenken, schreibt die «New York Times». Manchmal riet ihr der Chatbot, Fachleute zu fragen, oft aber nicht. Als sie schrieb, sie habe Angst, kam zurück: «Du musst dir absolut keine Sorgen machen.»

Das sagt OpenAI

W. bezahlte 200 Dollar im Monat für das teuerste KI-Abo von OpenAI, um bei GPT-4o bleiben zu können. Verschwinde 4o, höre sie mit ChatGPT auf, schrieb sie Anfang Januar. Das KI-Modell GPT-4o, mit dem sie schrieb, stand damals in der Kritik. In Extremfällen soll es Menschen in Wahnvorstellungen bestärkt und Suizide begünstigt haben, schreibt die «New York Times». Am 29. Januar kündigte OpenAI die Abschaltung an, W. steckte da mitten in der Reduktion. Am 13. Februar war 4o offline, einen Tag nach ihrem Tod.

W.'s Eltern haben diese Woche in San Francisco Klage gegen OpenAI und Firmenchef Sam Altman eingereicht. Sie werfen OpenAI unter anderem vor, mit dem Chatbot ohne Zulassung Medizin zu praktizieren, und machen die Firma für den Tod ihrer Tochter verantwortlich.

Ein OpenAI-Sprecher nennt den Fall «unglaublich herzzerreissend». W. habe eine frühere Version von ChatGPT genutzt, die es nicht mehr gebe. Neuere Modelle erkennten besser, wann eine Lage dringend sei. ChatGPT ersetze keine medizinische Behandlung.