美国31岁癫痫患者调整用药后死亡:家属起诉OpenAI,ChatGPT健康建议边界再受审视
#政策治理与伦理前沿 时间2026-10-31 05:42:31
文/IAICA.NGO®
一起来自美国的诉讼,把生成式人工智能在健康决策中的角色再次推到聚光灯下。2026年10月下旬进入公众视野的案件中,31岁美国女性Boen Wang的家人向法院提起非正常死亡(wrongful death)诉讼,被告为ChatGPT的开发方OpenAI。诉状称,这位患有癫痫的女性在与ChatGPT对话后,自行调整了抗癫痫药物拉莫三嗪(Lamotrigine)的服用剂量,随后死亡。家属主张,聊天机器人在药物剂量这一高风险问题上给出了可被理解为医疗建议的回应,且未以足够醒目的方式提示其不具备行医资质、不能替代神经科医师。
上述指控尚待法院审理,OpenAI方面亦未就案件实体细节作出完整说明。但从行业视角看,此案的争议焦点并不新鲜:当一个以预测下一个词为训练目标的语言模型,被置于某个具体个体的用药场景中,它究竟在扮演什么角色——搜索引擎、健康科普读物,还是事实上的第一诊疗接触点。
技术与责任的错配
拉莫三嗪是常用的广谱抗癫痫药物,其剂量滴定过程对速度极为敏感。临床上,起始剂量与加量幅度需依据患者是否合用丙戊酸等药物、肝肾功能以及皮疹反应等因素个体化确定;加量过快可能显著提高重症皮疹(如史蒂文斯—约翰逊综合征)等严重不良反应风险。换言之,这类药物的剂量问题,本就属于最不适合由通用对话模型处理的典型场景——它需要的不是概率上常见的答案,而是对缺失信息的主动追问与明确的就医引导。
而大语言模型的输出机制,决定其倾向于给出连贯、确定、语气友好的回答。这种交互体验在信息检索上或许是优点,在医疗场景中却可能构成风险:用户难以从流畅措辞中分辨一般性科普与针对自己的处方建议之间的界限。尤其是当模型以第二人称回答“我该怎么办”时,语义上的免责声明往往被语气的确定性所冲淡。
行业已开始补墙
过去两年,主流模型厂商在健康类查询上普遍加装了安全层:对涉及具体剂量、停药、自伤等高风险话题触发固定话术,引导用户联系医生或急救服务;部分产品在医疗问答中引入检索增强与权威指南引用。但安全层并非密不透风,多轮对话中的渐进式提问、对提示词的重新表述,都可能绕开单轮触发的防护设计。这也意味着,静态的关键词拦截难以应对真实用户连续追问的复杂性。
监管层面的判定标准同样面临挑战。相关机构对医疗建议边界的认定,长期以是否形成医患关系、是否针对具体个体给出具体方案为核心。AI产品恰恰游走于两者之间:它不声称自己是医生,却在事实上承担了部分分诊功能;它不掌握完整的病历,却常被用户默认为已了解全部背景。
对智能照护行业的启示
这起案件的真正意义,或许不在判决结果本身,而在于它迫使智能照护与数字健康行业回答一个工程性问题:当产品被大量用于健康咨询,企业是否应当默认承担相应的内容责任。iaica.com.cn 认为,可用性设计比免责声明更有价值——在涉及处方药剂量、精神健康危机、急症识别等场景中,系统应默认中断直接作答,转而输出结构化的风险提示与就医路径,而非把判断责任完全交由用户承担。
从更广的视角看,家庭照护者与慢病患者正是AI健康工具增长最快、也最脆弱的用户群体。他们往往在深夜、在门诊间隙、在信息焦虑中发起提问,期待一个即时可得的答案。技术能够提供信息可得性与陪伴感,但必须清楚自己不能提供什么。这起诉讼提出的问题,最终将由产品设计、临床规范与法律判例共同给出答案。
评论
0 条登录后才可以发表评论。
立即登录