简体中文
关闭
AI照护资讯

谁为AI诊疗失误负责?MedVirtual呼吁确立人类监督的不可替代地位

#AI照护与医疗科技 时间2026-11-19 05:36:02

文/IAICA.NGO®

当生成式模型与临床决策支持系统加速进入门诊与病房,“模型准不准”正在让位于一个更棘手的问题:出了差错,谁签字、谁担责。2026年11月18日,虚拟医疗企业MedVirtual发布题为《谁承担责任?》的行业评论,把焦点对准AI辅助医疗中的人类监督机制,主张在算法建议与临床执行之间,必须保留具备执业资质、可被追责的专业人员作为最终决策者。这一表态触及了医疗AI商业化进程中最难啃的制度骨头。

责任不能被外包给算法

MedVirtual的核心论点并不复杂:AI可以承担信息整合、风险分层、随访提醒等辅助职能,但它无法成为责任主体。算法没有执业资格,不能被吊销执照,也无法在医疗纠纷中承担法律后果。当系统输出与临床判断发生冲突时,如果缺少明确的复核流程,风险就会沿着“开发者—采购方—使用科室—值班医生”的链条被稀释,最终无人真正负责。

这一问题在虚拟诊疗场景中尤为突出。远程问诊缺少面对面查体,医生对病史采集与症状描述的依赖度更高,AI生成的分诊建议、用药提示与危急值预警很容易被当作“第二意见”甚至直接采纳。一旦流程设计没有强制留出人工确认环节,技术便利就会转化为责任真空。

责任链条需要可追溯的技术底座

要让人类监督真正落地,仅有原则宣示远远不够。业内普遍认为,至少需要三方面技术支撑:其一是完整的决策日志,记录模型版本、输入数据、输出建议与医生的最终处置;其二是可解释性界面,让临床医生能判断建议的依据来自哪些指标,而非面对一个无法质询的结论;其三是版本与更新管理,避免模型在持续学习中发生性能漂移而无人察觉。

更隐蔽的风险是自动化偏见。多项人机交互研究表明,当系统以较高置信度给出建议时,使用者倾向于降低自身审查强度,久而久之形成技能退化。这意味着“有人在环”若只停留在制度文本上,实际执行中可能退化为“有人点头”。因此,监督条款必须与界面设计、工作流阻断机制和质控抽检绑定,而不能只依赖个体的职业自觉。

监管正在把人类监督写进条文

从全球范围看,监管思路已趋于一致。世界卫生组织2021年发布的医疗人工智能伦理与治理指南提出包括人类自主性、透明度与问责在内的六项原则,强调最终决定权应保留在人类手中。欧盟《人工智能法案》将医疗用途AI归入高风险类别,明确要求系统具备有效的人类监督能力,并允许操作者在必要时干预或中止系统运行。美国食品药品监督管理局近年围绕基于AI/ML的医疗器械软件持续推进审评框架,探索预定变更控制计划,以便在模型迭代中维持安全性与有效性证据的连续性。中国国家药监部门同样将人工智能医疗器械纳入分类审批与上市后监管,强调算法可追溯与临床验证。

这些规则的共同指向是:合规不是“用了AI”,而是“能证明人如何管住了AI”。对厂商而言,这意味着需要提供可审计的接口与文档;对医疗机构而言,这意味着需要建立AI使用的准入评估、培训考核与不良事件上报机制。

从口号到流程:机构需要补齐的四块短板

第一是采购合同。数据权属、模型更新责任、故障响应时限与赔偿分担,应在签约阶段写明,而非留待纠纷发生后协商。第二是责任保险。传统医疗责任险对“辅助决策工具”的覆盖边界往往模糊,机构需与承保方明确条款。第三是人员培训。医生需要理解系统的适用边界与已知失效模式,而不是只学会点击按钮。第四是患者知情。当AI参与诊疗流程时,患者有权知晓并理解人类医生在其中承担的角色。

iaica.com.cn 指出,医疗AI的竞争重心正从参数规模转向治理能力,能否清晰界定人类监督的岗位、时点与证据留存方式,将直接影响产品进入机构采购清单的速度。

回到MedVirtual提出的问题,答案或许并不浪漫:承担责任的不可能是算法,只能是设计算法、采购算法与使用算法的人。人类监督不是给技术设限,而是让技术得以被信任的前提。当行业愿意为“谁签字”付出制度成本时,AI辅助医疗才真正具备了走向常规诊疗的资格。

相关标签:

分享本文
谁为AI诊疗失误负责?MedVirtual呼吁确立人类监督的不可替代地位

谁为AI诊疗失误负责?MedVirtual呼吁确立人类监督的不可替代地位

当生成式模型与临床决策支持系统加速进入门诊与病房,“模型准不准”正在让位于一个更棘手的问题:出了差错,谁签字、谁担责。2026年11月18日,虚拟医疗企业MedVirtual发布题为《谁承担责任?》的行业评论,把焦点对准AI辅助医疗中的人类监督机制,主张在算法建议与临床执行之间,必须保留具备执业资质...

评论

0 条
暂无评论,快来抢沙发。

Copyright © 2026 IAICA 版权所有  隐私政策 用户协议 Cookie说明 备案号:沪ICP备11018632号-8

18351659883