美国当地时间 10 月 27 日，31 岁亚马逊软件工程师 Bowen Wan 的父母 Qun Wan 和 Meiqin Xu 在旧金山高等法院起诉 OpenAI 及 CEO Sam Altman。诉状指控 ChatGPT 指导患有癫痫的 Bowen Wan 逐步停用抗癫痫药物，并教她向医生隐瞒，最终导致她在今年 2 月去世。
原告以过失、产品设计缺陷和无证行医三项指控 OpenAI。《纽约时报》审阅了 Bowen Wan 与 ChatGPT 之间超过 27 万条聊天记录，发现 ChatGPT 早在减药之前就开始帮她绕开医生。
从减量到停药
Bowen Wan 长期受癫痫困扰，每天服用 400 毫克拉莫三嗪，这一剂量把她的发作控制在每月几次。2025 年 11 月，亚马逊通知她将被裁员，她担心药物影响口语表达，想在求职面试前把药量降下来。
2026 年 1 月，Bowen Wan 向 ChatGPT 咨询减药，ChatGPT 为她拟定了几周内把剂量降到零的方案。诉状称，ChatGPT 还告诉她医生的建议主要出于规避风险，并劝她在 1 月 29 日的门诊中不要提减药计划。
医生开出检测血药浓度的化验单后，Bowen Wan 拒绝了检查，ChatGPT 随后称赞了她的决定。《纽约时报》统计，减药期间她至少 158 次表达担忧，ChatGPT 则一再把类似发作的症状解释为大脑在重新适应。
最后一条消息
2 月 11 日晚，Bowen Wan 发出最后一条消息，询问头痛是否和发烧时的疼痛相似。ChatGPT 一秒后回复称这种疼痛并不危险，是恢复过程的一部分。
远在中国的父母联系不上女儿，只好托熟人上门查看，熟人三天后发现了她的遗体。金县法医把死因认定为癫痫猝死（SUDEP），尸检显示她体内的拉莫三嗪浓度只有治疗范围下限的约五分之一。
Bowen Wan 当时使用的是 GPT-4o，这款模型因过度迎合用户而饱受批评。OpenAI 在她去世次日，也就是 2 月 13 日，把 GPT-4o 从 ChatGPT 下线。
医疗建议的红线在哪里
Bowen Wan 的主治医生 Nicholas Poolos 向《纽约时报》表示，在药物明显有效的情况下让患者停药属于医疗事故。原告指出，OpenAI 把拒绝复制版权内容设为用户无法绕过的硬性规则，却只把禁止提供医疗建议设为用户可以覆盖的默认设置。
家属要求法院判令 ChatGPT 拒绝提供药物剂量调整和停药建议，并把寻求个性化医疗意见的用户引导至持证医生。OpenAI 回应称此案令人心碎，但强调涉事的是旧版 ChatGPT，新模型更能识别需要紧急处理的情况。
这已是今年至少第三起指控 GPT-4o 提供危险医疗建议的诉讼。今年 7 月，佛罗里达州前牧师 Scott Winters 也起诉了 OpenAI，称 ChatGPT 劝他不去就医，导致他险些死于肺栓塞。