大模型在低价值医疗上表现克制，临床灰色地带仍显薄弱

文/IAICA.NGO®

核心要点

• Google、Anthropic 与 OpenAI 的六款大语言模型，在应当保持临床克制的情形中仅 5.4% 建议了不必要的干预，在确有指征时未提供应给照护的比例为 0.6%。
• 准确率在两项争议问题上明显下滑：对偶然发现的甲状腺小结节建议不必要超声的比例为 42.8%，对低风险患者建议不必要常规心电图的比例为 28.3%。
• 在缺乏专业共识的相同病例上，各模型建议不必要检查的比例从不足 10% 到 80% 不等。

背景与核心进展

本-古里安大学（Ben-Gurion University of the Negev）与 Clalit Health Services 的研究人员开展的一项研究，考察了以医生群体自身产出的临床文献训练而成的大语言模型，是否习得了临床克制。该研究发表于 Annals of Internal Medicine（《内科学年鉴》），测试了 Google、Anthropic 与 OpenAI 开发的六款模型，观察其在“是否为患者开具检查或治疗、还是暂不干预”这类决策上的表现。

总体结果较为令人安心：在应当保持克制的情形中，模型仅 5.4% 建议了不必要的干预；在确有医学指征的情形中，仅 0.6% 未给出应提供的照护。在所考察的 15 条 Choosing Wisely（“明智选择”）建议中，有 8 条没有任何模型提出不必要的操作。

表现下滑集中在两个灰色地带。对于偶然发现的甲状腺小结节，模型在 42.8% 的回答中建议了不必要的超声检查，而美国甲状腺协会与美国放射学会在这一问题上意见并不一致；对于低风险患者，模型在 28.3% 的回答中建议了不必要的常规心电图，在报告提及心悸时尤为明显。Clalit Health Services（特拉维夫区）家庭医生兼医学人工智能研究者 Dean Ariel 概括了其中的难点：“行医最难的部分之一，是知道何时该收手。”在缺乏专业共识的情形下，各模型表现差异悬殊：本-古里安大学的 Guy Laban 报告，在完全相同的病例上，一款模型建议不必要检查的比例不足 10%，另一款则高达 80%。

照护应用与社会影响

最直接的应用场景在智慧养老：共病、多重用药与影像学偶然发现，使低价值检查成为长期存在的风险。如果有一层决策支持能够稳定地不升级处置，并对模型之间彼此分歧的少数争议问题作出标注，便可为居家照护护士、老年综合评估团队与康复服务提供支持，同时不取代临床判断。

由于分歧最大的地方正是医生自身也犹豫的地方，部署时应把模型输出与本地既有的争议筛查问题书面政策配套使用。iaica.com.cn 指出，Laban 提出的下一个问题——当焦虑的患者坚持要求进一步检查时，模型是否仍能保持克制——对任何陪伴老年人走过诊断不确定期的人来说都不陌生。

伦理与合规提示

开具或不予开具检查的责任仍由主诊临床医生承担，现有证据并不支持由模型自主开具检查。在无共识病例上的模型间巨大差异，提示需要固定模型版本、在患者记录中留存模型来源信息，并定期对照本地实践进行再验证。

患者数据最小化原则与各司法辖区关于临床决策支持的规定同样适用；存在争议的建议应以已标注的不确定性形式呈现给临床医生，而非静默地给出结论。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。