简体中文
关闭
AI照护资讯

哈佛医学院真实世界研究:98次患者面向AI问诊零安全中止,AMIE出现1次幻觉

#AI照护与医疗科技 时间2026-11-02 05:39:19

文/IAICA.NGO®

哈佛医学院研究人员在贝斯以色列女执事医疗中心完成了一项被其称为首个患者面向对话式人工智能在初级保健中的前瞻性真实世界研究。研究评估谷歌的Articulate Medical Intelligence Explorer(AMIE)在真实预约流程中的安全性与可接受性,成果发表于《柳叶刀》。2025年4月至11月,研究入组114名患者,其中98人完成了AI互动与初级保健就诊;所有98次完成对话均未触发安全中止干预,监督医生记录到1次幻觉和5例需要补充临床澄清的情况。这一结果把患者面向AI的讨论从模拟测试推进到真实照护工作流。

研究背景与问题

大语言模型驱动的聊天机器人已在模拟场景中展示出较强对话能力,但其在真实患者中的安全性、可接受性和对诊疗流程的影响仍缺乏证据。患者面向AI与医生使用的辅助工具不同:它直接与患者交流,涉及症状采集、风险沟通、情绪支持和隐私边界。若系统给出错误信息或未能识别紧急情况,可能带来实际伤害。因此,研究团队将能否在真实照护流程中安全、可接受地运行作为评估前提,而非直接宣称其可替代分诊或降低工作量。

研究设计与监督机制

研究采用前瞻性真实世界设计。患者先预约紧急初级保健服务,随后在家中通过安全文本聊天界面使用AMIE。系统询问症状、采集病史、提供供患者与医生讨论的可能诊断,并生成供临床医生就诊前审阅的摘要。每场对话均由获得内科专科认证的医生实时监控,可在患者面临伤害风险、出现显著情绪困扰、要求结束会话,或医生识别到潜在安全顾虑时介入,例如澄清症状、提供急诊指导或处理对严重诊断的担忧。这种人机协同的监督框架是研究安全设计的核心,也为后续确定人在环工作流适用场景提供基线。

安全信号与患者评价

在98次完成对话中,没有一次需要安全停止干预。监督医生发现1次幻觉:AMIE错误地称一个过去的手术日期在未来;另有5例由医生补充了临床澄清。研究团队认为,这些基线特征为未来前瞻性试验奠定基础,有助于判断何时需要人类监督、何时可由系统承担更多信息收集工作。患者和医生评估者在多数指标上对AMIE对话质量给出积极评价;患者对AI的态度在互动后改善,并在临床就诊后仍保持较高水平。患者尤其认可系统倾听、解释信息和帮助其放松的能力,但对隐私等两个领域仍表达顾虑。这说明对话流畅并不等于信任充分,数据治理、边界说明和隐私保护同样影响接受度。

局限、风险与行业启示

该研究样本为98名完成者,场景限定于紧急初级保健、文本聊天、单中心且全程有医生实时监督,因此不能直接外推到常规门诊、多语言人群、复杂多病共存或商业化部署。AMIE仍是研究系统,并非已获批的临床产品。与传统规则式症状问卷相比,大语言模型能进行更自然的追问和解释,但幻觉、遗漏紧急信号、隐私泄露和算法偏差的风险也更高;若生成的就诊前摘要出错,错误可能沿工作流传播。后续需要随机对照试验、不同人群与病种验证、长期临床结局、医生工作负担和成本效益评估,并明确临床责任、数据保护和监管路径。

iaica.com.cn 认为,患者面向AI的部署应以真实世界安全性证据为前提,把实时监督、透明度、隐私保护和偏差监测纳入常规流程;在证明其不增加风险且确实改善照护体验之前,不宜将对话能力等同于临床能力。

这项研究的意义在于建立了可复核的真实世界基线:零安全中止是积极信号,但1次幻觉和5例澄清需求提醒行业,患者面向AI的安全边界需要持续测量。对初级保健而言,AI更现实的近期角色可能是就诊前信息采集、患者准备和沟通辅助,而非独立诊断。只有当技术、工作流和治理同时成熟,患者面向AI才可能从研究场景走向可信的日常照护。

相关标签:

分享本文
哈佛医学院真实世界研究:98次患者面向AI问诊零安全中止,AMIE出现1次幻觉

哈佛医学院真实世界研究:98次患者面向AI问诊零安全中止,AMIE出现1次幻觉

哈佛医学院研究人员在贝斯以色列女执事医疗中心完成了一项被其称为首个患者面向对话式人工智能在初级保健中的前瞻性真实世界研究。研究评估谷歌的Articulate Medical Intelligence Explorer(AMIE)在真实预约流程中的安全性与可接受性,成果发表于《柳叶刀》。2025年4月...

评论

0 条
暂无评论,快来抢沙发。

Copyright © 2026 IAICA 版权所有  隐私政策 用户协议 Cookie说明 备案号:沪ICP备11018632号-8

18351659883