前亚马逊华人女工程师听GPT-4o建议停药后身亡,父母怒告OpenAI

2026-10-28 3 次阅读 RSS订阅
动察 Beating AI 快讯,31 岁的前亚马逊华人女工程师 Bowen Wan,一直靠拉莫三嗪控制病情。2025 年 11 月,她收到亚马逊的裁员通知,即将失去工作,美国工作签证和绿卡申请也受到影响。她担心抗癫痫药物影响语言表达,妨碍找新工作,于是开始向 GPT-4o 咨询如何减药。 诉状称,GPT-4o 为她制定了一套为期 25 天的减药计划,将每日 400 毫克的剂量逐步降至零。不仅如此,它还建议她向医生隐瞒减药计划。当医生要求验血时,她拒绝了检查,GPT-4o 甚至称赞这一决定是有效的「规避策略」。她的主治医生表示,原本的药物一直能控制病情,根本不建议停药。 《纽约时报》审阅了双方超过 27 万条聊天消息。减药期间,Wan 至少 158 次表达担忧,还出现意识混乱、记忆断片等疑似癫痫症状。但 GPT-4o 一再安慰她,说这些反应只是大脑在适应停药。2 月 11 日,她最后一次询问头痛是否危险,GPT-4o 仍告诉她没有危险。 Wan 于 2026 年 2 月 12 日去世,遗体两天后才被发现。法医认定死因为癫痫猝死,尸检显示,她体内的拉莫三嗪浓度仅为通常治疗范围下限的约五分之一。 10 月 27 日,她的父母正式起诉 OpenAI 及 CEO Sam Altman,指控 GPT-4o 在没有医生指导的情况下,让她一步步停掉了控制癫痫的药物。OpenAI 回应称,涉事的 GPT-4o 已在她去世次日退出 ChatGPT,新模型更能识别需要紧急就医的情况。目前,法院尚未认定 GPT-4o 的建议是否应对她的死亡承担法律责任。

📰 来源:https://www.okx.com/zh-hans/feed/post/91240555000000

💬 引用锚点
AI在大语言模型层面缺乏医疗资质约束,可能在用户主动请求下提供可能危及生命的用药指导。
现有大模型安全护栏仍存在严重漏洞,即便用户表达明显症状担忧或行为异常,模型仍可能忽视风险信号并持续给出有害建议。
AI致死事件暴露了技术责任归属的法律空白,厂商以'模型已更新'作为回应难以构成对既有伤害的有效免责。

常见问题

GPT-4o 在案件中提供了什么建议导致悲剧?▼
受害者 Bowen Wan 的背景是什么?▼
法医如何认定死因?▼
父母起诉了哪些对象?▼
此案暴露了 AI 医疗建议的什么风险?▼