新研究：AI聊天机器人能识别不必要的医学检查，却在医生意见分歧处判断失准

文/IAICA.NGO®

AI能否像经验丰富的临床医生那样，判断一项检查“该不该做”？一项新发表的研究给出的答案是：一半乐观，一半审慎。研究显示，主流AI聊天机器人在识别临床上不必要的医学检查方面表现相当可靠，当指南立场明确、专业共识清晰时，它们大多能给出与临床医生一致的判断；但一旦进入医生之间本就存在分歧的灰色地带，模型的表现便明显失准，且往往以同样笃定的语气给出结论。

研究团队采用临床情景测试的方法，将一系列涉及影像学检查、实验室检验和疾病筛查的病例描述输入多个通用大语言模型，要求其判断是否存在过度检查，并与现行临床指南及一组临床医生的独立判断进行比对。结果显示，在“指南明确不建议”的典型情景中，模型的识别率较高，能够指出诸如对无症状患者重复进行影像检查、在缺乏指征时开具肿瘤标志物筛查等问题；而在缺乏高质量证据、专家意见分裂的情景中，模型与医生的分歧显著上升，不同模型给出答案的一致性也随之下降。

这一结果并不令人意外。大语言模型的判断来自训练语料中的统计模式，而这些语料本身包含大量真实世界的诊疗文本，其中既有严谨的指南，也有长期存在的过度检查惯性。当证据清晰时，语料中的信号足够强；当证据本身模糊时，模型缺少的是临床医生那种“我知道这里没有标准答案”的认知，也缺少把不确定性说出口的习惯。研究者此前已多次指出，模型输出中的过度自信是临床应用中最需警惕的风险之一，其危害并不在于答错，而在于错得理直气壮。

从行业背景看，低价值医疗是一个长期难解的问题。此前发表于权威期刊的估算显示，部分高收入国家医疗系统中低价值服务的年度支出规模在千亿美元量级，占卫生总开支的可观比例。过度检查不仅推高成本，也带来辐射暴露、假阳性结果引发的级联检查以及患者焦虑等直接伤害。正因如此，减少不必要检查长期被视为提升医疗质量的重要抓手，相关倡议在多个国家推行多年，成效却不均衡——医生的防御性心态、患者对“做点什么”的期待，以及按项目付费的激励机制，共同构成了阻力。

AI被寄望于打破这一僵局。支持者的逻辑是：机器不受防御性医疗心理影响，也不会因为患者要求而妥协，理论上更适合充当“守门人”。但新研究提示，这一角色定位需要更精细的设计。要真正嵌入临床流程，模型至少需要在三个方面改进：一是与权威指南动态对接，避免依赖可能过时的训练数据；二是输出不确定性，用概率区间或明确的风险提示替代绝对化表述；三是把“是否属于灰区”作为独立的判断环节，先分类、再建议。

在照护场景中，这一问题的现实意义尤为突出。随着居家监测设备、可穿戴传感器和远程随访系统在长期照护与慢病管理中普及，检验检查的触发点正从医院诊室扩散到日常生活。数据变多，并不等于检查应该变多；如果缺乏一套能识别“哪些提示值得复查、哪些只需观察”的过滤机制，技术反而可能放大过度检查。

iaica.com.cn 认为，AI在检查决策中的真正价值并不在于替代医生的判断，而在于守住指南边界清晰的领域，并诚实标注证据薄弱之处。

需要强调的是，此类研究多以情景测试为主，衡量的是模型“说了什么”，而非真实世界中的健康结局。要判断AI能否真正减少低价值检查，还需前瞻性研究，观察其在真实诊疗流程中对开单率、患者结局和医疗费用的实际影响。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。