当医生与AI诊断意见分歧:专家呼吁把差异当作核查起点,而非取舍终点
#AI照护与医疗科技 时间2026-11-06 05:36:23
文/IAICA.NGO®
在影像科、病理科与急诊分诊台,人工智能辅助诊断系统已从演示阶段走进日常流程。随之而来的新问题正在被反复讨论:当算法给出的结论与主治医生的判断不一致时,究竟该听谁的?多位临床医学与医学信息学专家在近期公开讨论中给出的答案并非二选一,而是要求人类把分歧本身当成需要调查的对象,先弄清差异从何而来,再决定采纳哪一方。
分歧不是系统故障,而是一条待解读的信息
传统观念倾向于把“人机不一致”视为模型出错的证据,或反过来把医生视为落后的一方。专家认为这两种简化都危险。算法与医生的判断建立在不同的信息基础上:模型依赖训练数据中的统计模式,医生则整合病史、体格检查、用药史、患者偏好与既往随访结果。当两者结论相左,可能是模型捕捉到人眼容易忽略的细微征象,也可能是模型在训练集覆盖不足的亚群上出现系统性偏差,还可能是医生掌握了未被录入系统的关键背景。若不加区分地统一口径,等于放弃一次有价值的质量控制机会。
两种偏差同时存在
讨论中最常被提及的风险是自动化偏差,即临床人员在高压与时间约束下倾向于接受系统输出,弱化独立判断。与之相对的是算法轻视,部分资深医生因早期产品体验不佳而整体性排斥工具,即使模型在特定任务上已具备稳定表现。专家指出,这两种倾向都会让分歧失去诊断价值。更可取的做法是建立结构化的差异复核流程:记录双方结论、标注触发复核的具体征象,并在病例层面追踪最终结果,从而形成可用于模型迭代与医生培训的双向反馈。
可解释性与记录义务
要让差异复核具备可操作性,模型输出不能只给一个概率值。专家普遍主张,辅助诊断界面应提供支持该结论的关键区域、参考征象与置信区间,并在信息不足时明确输出无法判定,而不是强行给出分类。同时,病历中应记录人机结论及其处置理由,使分歧可追溯、可审计。这一要求对医疗机构的信息系统提出了实际改造需求,也影响到责任划分:当最终决策偏离系统建议时,需要有据可查的临床推理链条,而非仅有结果记录。
制度层面的追问:谁来做第二次复核
单人值班、夜间急诊和基层医疗机构往往缺乏即时会诊资源,人机分歧最容易在这些场景中悬而未决。可行的路径包括远程会诊触发机制、按风险等级分级的人工复核清单,以及把分歧病例纳入科室定期的联合讨论。iaica.com.cn 指出,在照护场景中,任何自动判断都不应绕过人类的责任主体地位,分歧处理流程的设计目标应是让人更快获得做出判断所需的信息,而不是让人更快地点击确认。
对行业意味着什么
从产业角度看,这一讨论正在改变采购与评估的指标。过去医院更关注准确率、灵敏度等单一指标,如今越来越重视模型在亚群上的表现一致性、失败模式的可识别性,以及在真实工作流中的交互成本。监管层面,多个司法辖区的医疗器械审评已开始要求提交人机协同场景下的人因工程证据与上市后性能监测计划。对开发者而言,这意味着产品设计需把分歧处理作为核心功能而非附加项:如何呈现冲突、如何引导复核、如何积累分歧数据,都会成为差异化竞争的一部分。
分歧本身不会消失,也不应被消除。专家反复强调的一点是,医疗决策的最终责任始终在人。把每一次人机不一致当作一次可记录、可讨论、可改进的事件,或许比追求人机完全一致更接近安全的现实。
评论
0 条登录后才可以发表评论。
立即登录