ChatGPT sagte: «Vollkommen machbar!» – Jetzt ist Bowen (31) tot

• Die 31-jährige Bowen Wan ist gestorben, nachdem sie auf Rat von ChatGPT ihr Epilepsie-Medikament reduziert hatte.
• Der Chatbot beschwichtigte ihre Bedenken laut «New York Times» mindestens 158-mal.
• Ihre Eltern verklagen OpenAI, das von einer früheren Version spricht, die nicht mehr verfügbar ist.

Mitten in einem hitzigen Telefongespräch mit ihrem Vater wurde Bowen Wan plötzlich still. Sie erklärte ihm gerade, sie habe die Dosis für ihr Epilepsie-Medikament um etwa ein Viertel reduziert, da sie das Gefühl hatte, es würde ihre Sprache und ihr Denken stark einschränken. Sie liess sich dafür von ChatGPT einen genauen Tagesplan erstellen.

Der OpenAI-Chatbot beruhigte sie: «Du musst dir nicht allzu viele Sorgen um deine Gesundheit machen.» Weil ihre Krankheit stark ausgeprägt war, litt Bowen zunehmend unter Einsamkeit. Die in Seattle wohnhafte chinesische Einwanderin fragte deshalb ChatGPT ständig um Rat in allen möglichen Lebensbereichen. Zum Vorschlag, die Dosis zu reduzieren, um weniger Nebenwirkungen zu verspüren, meinte ChatGPT: «Das ist nicht nur vernünftig», antwortete der Bot, «sondern unter deinen derzeitigen Umständen auch vollkommen machbar.»

Arzt hätte Reduktion «nicht in Erwägung gezogen»

«Hätte Bowen ihren Neurologen konsultiert, hätte er sie vor den Gefahren dieses Plans gewarnt», schreibt die «New York Times», die den Fall ausführlich schildert. Der befragte Dr. Poolos erklärt, bei Patientinnen wie Bowen hätte er «nicht einmal in Erwägung gezogen», die Dosis schleichend zu reduzieren. Die Zeitung wertete ihre Chatprotokolle aus und erkannte darin, dass die Patientin mindestens 158-mal Bedenken gegenüber ChatGPT äusserte bezüglich der Medikamentenreduktion, da sie ungewohnte Empfindungen verspürte. Der Chatbot beschwichtigte jedes Mal.

Die Folgen von Wans eigenmächtigem Handeln waren fatal. Mit nur 31 Jahren starb sie. In einer ihrer letzten Nachrichten beschrieb sie ein Druckgefühl in ihrem Gehirn. Der Chatbot erklärte ihr, dies bedeute lediglich, dass das Organ «hart daran arbeitet, sich wieder aufzubauen».

Eltern verklagen OpenAI

Bowens Eltern haben sich nach dem tragischen Verlust dazu entschieden, OpenAI zur Rechenschaft zu ziehen. In der Klage werfen sie dem ChatGPT-Entwickler vor, sein Chatbot habe ohne Zulassung Medizin praktiziert, ihrer Tochter weisgemacht, die gefährlichen Entzugserscheinungen seien «in Wirklichkeit positive Entwicklungen», und ihre Ärzte «als Hindernisse dargestellt, mit denen man umgehen müsse, statt als Fachleute, deren Rat einzuholen sei».

Drew Pusateri, ein Sprecher von OpenAI, teilte der «New York Times» mit, es handle sich um eine «unglaublich herzzerreissende Situation», die von einer früheren ChatGPT-Version verursacht worden sei, die inzwischen nicht mehr verfügbar ist. Bowen nutzte für ihre Anfragen GPT-4o. Das Modell wurde einen Tag nach ihrem vermuteten Todestag im Februar 2026 aus der App entfernt. Laut Pusateri sind die Nachfolgemodelle deutlich besser darin, kritische Situationen zu erkennen.

Nicht nur in medizinischen Fragen vertrauen Menschen zunehmend auf KI. Für viele gehört es mittlerweile zum Alltag, sich bei Sorgen, Problemen oder Herausforderungen Rat bei ChatGPT und Co. zu holen. Hast du schon einmal einen Ratschlag von KI befolgt, und es danach bereut? Schreib es uns im Formular.

Trauerst du oder trauert jemand, den du kennst?

Hier findest du Hilfe:

Seelsorge.net, Angebot der reformierten und katholischen Kirchen

Pro Juventute, Beratung für Kinder und Jugendliche, Tel. 147

Pro Senectute, Beratung älterer Menschen in schwierigen Lebenssituationen

Digital-Push

Wenn du den Digital-Push abonnierst, bist du über News und Gerüchte aus der Welt von Whatsapp, Tiktok, Instagram, Samsung, Apple und Co. informiert. Auch erhältst du Warnungen vor Viren, Trojanern, Phishing-Attacken und Ransomware als Erster. Weiter gibt es Tricks, um mehr aus deinen digitalen Geräten herauszuholen.

So gehts: Installiere die neuste Version der 20-Minuten-App. Tippe unten auf «Profil», dann aufs «Einstellungen»-Zahnrad und schliesslich auf «Push-Mitteilungen». Wähle hier die gewünschten Themen aus.

Justin Arber (jar), Jahrgang 1999, arbeitet seit 2022 als Redaktor am Newsdesk. Zeitweise übernimmt er da die Schichtleitung im Früh- und Spätdienst.