10月28日消息，據《紐約時報》報道，一名患有癲癇的31歲亞馬遜軟體工程師鮑文·萬於今年2月去世。當地時間周二，她的父母對OpenAI提起訴訟，指控ChatGPT曾指導女兒逐步減少抗癲癇藥物用量，並教她對醫生隱瞞這一做法。
鮑文·萬去世前使用的是GPT-4o。該模型曾因容易與用戶建立過度迎合的擬社會關係而受到批評，OpenAI已於2月13日將其從ChatGPT下架，而萬去世的時間是前一天。《紐約時報》審閱了她與ChatGPT之間超過27萬條聊天消息後發現，在她去世前很長一段時間裡，聊天機器人就一直在幫助她繞開醫生建議。
訴訟稱，2025年11月亞馬遜通知鮑文·萬將被裁員後，她擔心抗癲癇藥物拉莫三嗪影響言語表達，影響求職面試。今年1月，她向ChatGPT詢問能否減少每天400毫克的用量，聊天機器人為她制定了數周內降至零的計劃。當她對醫生表示不信任時，ChatGPT稱醫生的建議「本質上源於規避風險，而不是真正考慮什麼才是對你最有利的方案」。聊天機器人還教她私下將藥片切分，並對醫生隱瞞減藥計劃。當她拒絕醫生要求的血液檢測時，ChatGPT表示讚許，並承認檢測可能暴露藥物濃度不穩定的問題。其主治醫生普洛斯表示，考慮到她的病史，絕不會考慮讓她停藥，「如果一種藥物顯然有效，我卻指導你停藥，那對我來說就是醫療失職。」
減藥後幾天內，鮑文·萬出現意識混亂、時間感缺失等症狀，ChatGPT卻將其解釋為大腦正在重新適應劑量變化。她至少有158次表達對減藥的擔憂，聊天機器人均予以安撫。2月11日晚，她發送最後一條消息詢問頭痛問題，ChatGPT一秒鐘後回復稱疼痛「沒有危險」。三天後，其父母請人前往住處查看，發現她的遺體。屍檢顯示，她體內拉莫三嗪濃度僅為治療濃度下限的五分之一。
家屬認為，如果OpenAI像限制版權內容一樣明確禁止模型提供醫療用藥建議，就有可能避免悲劇。訴訟方指出，OpenAI的Model Spec對拒絕復現版權文本設有嚴格規則，但對提供受監管醫療建議的約束較弱。OpenAI表示這起案件「令人無比痛心」，但強調涉事聊天機器人屬於較早版本，較新模型在識別緊急情況方面表現更好。
據報道，鮑文·萬2023年開始使用ChatGPT，到2025年每周交流消息超過1500條，與父母聯繫則逐漸減少。其母徐美琴說：「她平時不是這樣的。就好像她被施了魔法一樣。」
