简体中文
关闭
AI照护资讯

美国医学会发布临床AI责任框架:医生、开发者与部署机构三方共担,三分之一医生将“清晰责任”视为采用前提

#AI照护与医疗科技 时间2026-11-03 05:37:16

文/IAICA.NGO®

美国医学会(AMA)近日发布一份关于临床人工智能责任划分的框架文件,试图回答一个随AI工具快速进入诊室而愈发尖锐的问题:当算法出错导致患者受损,责任应由谁承担。框架的核心主张是,医生、AI开发者(供应商)与部署机构(医疗系统、医院和医生诊所)应各自承担与其实际控制能力相匹配的责任,而不是把全部风险压在临床一线的医生身上。AMA的立场十分明确:当AI开发与部署的诸多环节超出医生控制范围时,不应期待医生独自充当临床AI与患者伤害之间的“人墙”。

行业背景与驱动力

临床AI工具正被广泛用于辅助临床决策、减轻那些常常导致医生职业倦怠的行政负担。但责任归属已成为医生最关心的事项之一。AMA今年早些时候发布的调查显示,三分之一的医生将“清晰的责任框架”列为推动其采用AI的首要因素。正是这一调查结果,加上责任界定不清可能带来的患者伤害风险,促成了该框架的出台。按照AMA相关负责人的说法,这套框架将形成一套评判标准,使每一类利益相关方都能清楚了解:在自己有能力降低风险的环节,应主动落实哪些最佳实践。

医生的责任与免责边界

按照框架,医生在使用AI时必须行使临床判断,包括对AI输出进行质询,必要时驳回AI建议。但AMA同时强调,医生不应对其无法控制的AI错误负责。举例而言,若医生依据AI临床决策支持工具的建议制定治疗方案,而该工具在给出建议时遗漏了关键数据,且医生对错误并无可视性,那么由此可能造成的患者伤害不应由医生承担责任。这一界定的意义在于,它把“形式上的知情同意”与“实质上的可干预能力”区分开来,避免让临床判断沦为算法缺陷的兜底机制。

开发者的义务:从免责声明到信息透明

框架将“确保工具提供安全准确的建议、并让医生等用户能够识别和回应错误”的责任归于开发者。为此,用户需要获得的不仅是警告和免责声明,而是关于预期用途、性能表现与局限性的实质信息。AMA明确指出,免责声明不足以构成抵御临床AI潜在伤害的充分保障;更有效的做法是识别风险所在环节、确定哪一方有能力预防,以及该方需要何种信息才能真正履行预防义务。这对供应商的产品文档、性能验证与错误披露机制提出了更高要求。

部署机构:选型、培训与持续监测

第三类责任主体是部署方,即引入这些工具的医疗机构,包括医疗系统、医院与医生诊所。它们在AI工具的选型与落地中扮演关键角色,须在要求医生使用前完成工具评估,并提供必要培训。然而现实存在明显缺口:2026年AMA调查显示,四分之一的医生未接受过任何AI相关培训,92%的医生希望获得更多培训。除培训外,部署方还需持续监测工具性能,以防模型随时间推移出现准确性衰减,并建立不良事件响应流程。换言之,采购决策之后的责任并未终止,而是转入运维阶段。

患者救济与监管博弈

该框架不仅界定各方在降低临床AI风险中的角色,也提出受害患者应拥有在AI失灵时寻求救济的途径,其中包括获得赔偿。相关人士表示,若这套机制设计得当,不仅能在患者受损时使其向适当责任方索赔,更重要的是,由于每一方都清楚自身责任,患者受到伤害的概率本身会显著降低。随着临床AI能力提升、在部分场景下获得自主行动能力,AI企业与医生之间围绕“谁承担错误主要责任”的拉锯正日趋激烈;医疗机构团体近期已向美国食品药品监督管理局提交意见,就相关问题表达立场。

iaica.com.cn 指出,此类责任框架的真正价值在于把抽象的伦理讨论转化为可操作的流程要求——谁能看见错误、谁能阻止错误,谁就承担相应责任,这为各国在临床AI准入审查、采购合同与问责制度设计上提供了可参照的模板。

从趋势看,责任划分正在从“医生个体担责”转向“链条式共担”,而其落地效果取决于三项可验证指标:供应商是否披露足够的性能与局限信息,医疗机构是否建立上市后监测与不良事件上报通道,以及监管方是否认可患者获得赔偿的程序路径。若这三项缺位,再完整的框架也容易停留在文本层面。

相关标签:

分享本文
美国医学会发布临床AI责任框架:医生、开发者与部署机构三方共担,三分之一医生将“清晰责任”视为采用前提

美国医学会发布临床AI责任框架:医生、开发者与部署机构三方共担,三分之一医生将“清晰责任”视为采用前提

美国医学会(AMA)近日发布一份关于临床人工智能责任划分的框架文件,试图回答一个随AI工具快速进入诊室而愈发尖锐的问题:当算法出错导致患者受损,责任应由谁承担。框架的核心主张是,医生、AI开发者(供应商)与部署机构(医疗系统、医院和医生诊所)应各自承担与其实际控制能力相匹配的责任,而不是把全部风险压...

评论

0 条
暂无评论,快来抢沙发。

Copyright © 2026 IAICA 版权所有  隐私政策 用户协议 Cookie说明 备案号:沪ICP备11018632号-8

18351659883