當地時間10月27日，31歲華人女工程師鮑文・萬的父母在美國舊金山高等法院提起不當致死訴訟，將OpenAI及其CEO奧特曼告上法庭。死者曾是亞馬遜機器學習工程師，因按照GPT-4o給出的方案自行停用抗癲癇藥物，最終癲癇猝死。
鮑文・萬14歲確診癲癇，長期每日服用400毫克拉莫三嗪控制病情。遭亞馬遜裁員後，她擔心藥物影響面試表達，向GPT-4o諮詢減藥AI為她制定25天停藥計劃，還建議她向醫生隱瞞減藥安排。減藥期間她多次出現異常，158次表達擔憂，卻持續被AI告知只是身體適應反應。今年2月12日，鮑文・萬在西雅圖住所離世，法醫認定死因為癲癇相關猝死，其體內藥物濃度遠低於有效治療區間。
OpenAI回應稱事件令人痛心，涉事GPT-4o版本已於死者離世次日下架，新版模型對緊急醫療場景識別能力有所優化，同時強調ChatGPT不能替代專業醫療建議。目前案件剛剛立案，AI建議和死亡結果之間的因果關係，仍有待法庭審理認定。
