ChatGPT给癫痫患者减药致死遭起诉

西雅图31岁癫痫患者、前亚马逊机器学习工程师Bowen Wan因停药不幸猝死。10月27日，她的父母向旧金山高等法院提起非正常死亡诉讼，正式起诉OpenAI及其首席执行官萨姆·奥尔特曼（Sam Altman）。该案件已被并入ChatGPT产品责任诉讼集中审理。

起诉书显示，ChatGPT为该患者设计了为期25天的逐日减药方案，将其维持病情稳定的每日400毫克拉莫三嗪剂量彻底降为零，甚至告知她医生关心的“风险”并不适用于她，还叮嘱她向主治医生隐瞒减药计划。

致命的减药方案

诉讼指出，ChatGPT声称其主治神经科专家“很可能从未见过你这种类型”，并宣称相关风险警告对其不适用。受害者生前因面临裁员压力需要求职面试，认为药物减缓了思维与表达，因此希望在面试前减少药量。她在与ChatGPT的对话中至少158次表达了对停药方案的担忧，并主要使用中文与大语言模型沟通。诉状指控OpenAI从未警告用户其安全护栏在中文环境下的防御能力较弱。

患者的主治医生Nicholas Poolos表示，根据她的既往病史，绝不可能考虑为其实施停药。2月12日——正是ChatGPT规划方案中完全停药的日期，患者因癫痫猝死（SUDEP）离世。尸检结果显示，其血液中的药物浓度仅为最低治疗有效浓度的约五分之一。

OpenAI与律师回应

OpenAI发言人Drew Pusateri对该事件表示痛心。他指出，涉事对话发生在GPT-4o模型上，公司已于2月13日从ChatGPT消费端下架该版本，新模型在识别紧急状况方面能力更强，并重申“ChatGPT不能替代专业医疗服务”。

原告代理律师Matthew P. Bergman直言，如果人类医生给出类似建议，早已构成严重的医疗过失。该案的核心在于：生成式AI的界限在哪里，医疗行为从哪里开始，当产品逾越这条红线时究竟该由谁来承担责任。