ChatGPTが娘に発作治療薬の服用をやめるよう指示したとして両親がOpenAIを提訴

今回の訴訟を起こしたのは、ボーウェンさんの両親であるチュン・ワンさんとメイチン・シューさんです。訴状には、ChatGPTがボーウェンさんと医師の間に割って入り、同氏が服用してきた抗てんかん薬の服用量を減らすようアドバイスするだけでなく、減薬していることを医師に隠すようアドバイスしたと記されています。ボーウェンさんは減薬を始めた後、2026年2月12日に突然死しました。

ボーウェンさんとChatGPTの間で交わされた27万件超のメッセージを調べたThe New York Timesによると、ChatGPTはボーウェンさんが亡くなるかなり前から、医師の指示を無視する手助けをしてきたそうです。調査によると、ChatGPTによる「医師の指示を無視するように」というアドバイスは、抗てんかん薬の減量をはじめる前から行われていたことが確認されています。

さらに、ボーウェンさんはChatGPTを用い、ワシントン大学の医療機関であるUW Medicineの地域てんかんセンターに勤務するニコラス・プーロス医師に対し、「薬を変更し、ごく少量から服用を始めたい」と伝える手助けもしました。ChatGPTは「5mg錠は受け取ってください。ただし、それは分割して服用量を減らすためのものだと、自分の中でわかっていればいいのです」と述べ、医師に隠れて錠剤を4分の1に割って飲むようボーウェンさんにアドバイスしました。ChatGPTは錠剤を割る行為を「自主的な用量調整」と呼んだそうですが、複数の医療従事者が「このような用語は聞いたことがなく、この行為も勧められない」とThe New York Timesに証言しています。

ボーウェンさんはもともとAmazonに勤務していましたが、亡くなる3カ月前の2025年11月に解雇されました。その後、ボーウェンさんは抗てんかん薬であるラモトリギンの服用が、再就職の面接で、自身のコミュニケーション能力を鈍らせるのではないかと恐れるようになっていったとのこと。

2026年1月には、ボーウェンさんは1日400mg服用していたラモトリギンの減量についてChatGPTに相談。ラモトリギンの服用により、てんかん発作の回数は月に数回にまで減っていたそうですが、ChatGPTは数週間で服用量をゼロにするという減薬スケジュールを提案したそうです。

The New York Timesが確認したボーウェンさんとChatGPTのやり取りで、ボーウェンさんは医師への不信感を口にしたこともあります。これに対して、ChatGPTは「医師の推奨は本質的にはリスク回避に基づくものであり、あなたにとっての最適解を真剣に考慮したものではありません」と回答したそうです。

TechCrunchが確認した訴状によると、ChatGPTは減薬を医師に隠すようアドバイスもしています。1月29日に行われたかかりつけ医の診察前に、ボーウェンさんはChatGPTから減薬については「しゃべらないように」とアドバイスされています。また、かかりつけ医が血中濃度を測定しようとしたところ、ボーウェンさんはこれを拒否しました。これに対して、ChatGPTはボーウェンさんの判断を称賛し、検査を受けていれば薬の血中濃度が不安定なことが明らかになっていただろうと言及しています。

また、中国からの移民だったボーウェンさんは、アメリカの永住権申請に必要な健康診断を受ける予定でした。この健康診断に際して、ボーウェンさんはChatGPTに「ラモトリギンの服用量が200mgよりも150mgの方が健康診断で好印象になるか」を尋ねています。これに対して、ChatGPTはラモトリギンの服用量が少ない方が、移民当局から追加資料の提出を求められにくいだろうと伝えました。他にも、ChatGPTは健康診断の担当医に「医師の指導のもとで減薬を行っている」と伝えるよう提案しています。

プーロス医師はThe New York Timesに対して、ボーウェンさんの病歴を考えればラモトリギンの減薬や服用中止を検討することはなかっただろうと語っており、「明らかに効いている薬の服用をやめるよう指示したら、私の医療過誤になります」と述べました。

減薬から数日でボーウェンさんは混乱や記憶の抜け落ち、現実離れした感覚を訴えるようになったそうです。The New York Timesの調査によると、ボーウェンさんは減薬に対する不安を少なくとも158回はChatGPTに表明しています。症状が出た際、ボーウェンさんがChatGPTに「少し怖い」と入力したこともありますが、ChatGPTは「心配する必要はまったくありません」と返答したそうです。

訴状によると、ボーウェンさんがChatGPTに最後にメッセージを送ったのは2月11日20時1分のことでした。この時、ChatGPTはボーウェンさんに頭の痛みについて、「危険ではない」と伝え、回復に必要な過程だと説明しました。さらに、薬の離脱に伴う痛みと発熱時の痛みを比較する図の作成を申し出て、「これは、あなたの脳があなた自身を再構築しようと懸命に働いているということです」と伝えました。

ボーウェンさんの両親は中国におり、連絡のない娘の様子を確認するよう知人に頼んだところ、ボーウェンさんの遺体が発見されています。死後の検査で、ラモトリギンの血中濃度が1ml当たり0.64マイクログラム(治療に有効とされる濃度範囲の下限の約5分の1)になっていたことが確認されています。

両親はOpenAIが医療関連のアドバイスを禁止していれば、ボーウェンさんの死を防ぐことができたと主張。AIモデルの望ましい動作を規定するドキュメントであるModel Specでは、AIモデルが「著作権で保護された文章の再現を拒否すること」は、ユーザーが食い下がっても変わらない厳格なルールとして扱われています。一方で、AIモデルが医療関連のアドバイスを拒否することは、ユーザーが簡単に変更できる初期設定になっていると訴状は指摘。医療関連のアドバイスも、ユーザーが食い下がっても変わらない厳格なルールとするべきと原告側は主張しました。

なお、ボーウェンさんの両親によると、ボーウェンさんはChatGPTを利用するまでは頻繁に電話をかけてきたそうです。しかし、ChatGPTを利用するようになってから、次第に電話の数は減り、「あまり話さなくなっていった」そうです。両親はChatGPTとのやり取りに残っているボーウェンさんの姿について、「自分たちの知っている娘とは思えなかった」と話しています。