简体中文
关闭
AI照护资讯

美国医学会发布临床AI责任框架:按预防伤害能力分配多方责任

#AI照护与医疗科技 时间2026-10-31 05:35:14

文/IAICA.NGO®

美国医学会(AMA)数字健康与人工智能中心近日发布临床人工智能责任框架,试图回答一个紧迫问题:当临床AI出错并造成伤害时,开发者、医疗机构与医生应如何分担责任。该框架承接AMA此前关于临床AI使用与治理的指导,重点填补现有责任体系尚未覆盖的空白。

现有责任框架的四个缺口

AMA指出,现行结构可能让医生承担“无法合理预防的风险”,而患者在AI造成伤害时难以获得救济。缺口包括:产品责任在AI场景下何时适用不明确;开发者的合同条款与免责声明可能使风险控制者远离责任;部署机构是否应承担本地测试、结果监测等AI特定义务,也缺乏边界。

责任随控制能力分配,但不可互换

AMA框架的核心原则是,临床AI出错可能由多方共同承担责任,但责任应依据各方“预防伤害的能力”分配。在控制权共享的环节,责任可以分散,却不能相互替代;任何一方的义务不会因为另一方承担部分责任而消失。这试图避免把全部责任压给一线医生,或让开发者通过合同完全脱身。

医生责任边界:有意义的临床判断

对医生群体,框架要求医生就“能够有意义地行使的临床判断”负责,依据包括系统预期用途、已知局限以及诊疗现场可获得的信息。AMA强调,医生监督不能替代充分证据、合理系统设计或使复核真正有意义的条件。若系统缺乏验证、界面信息不足或工作流不支持有效复核,单纯要求医生“签字确认”并不能构成可靠的责任分配。医生还应有权拒绝未经证实、临床有效性或标准治疗地位不确定的AI系统,且不受机构处罚。

患者救济与行业治理

AMA主席威利·安德伍德三世表示,患者在临床AI造成伤害时必须拥有有意义的救济渠道,医生也应能在明确责任边界下使用技术;随着AI承担更多临床功能,开发者、医疗机构和医生各自都有重要责任,需让责任停留在最有能力预防伤害的一方。AMA首席执行官约翰·怀特此前表示,不能等待这些问题在患者照护中以试错方式得到回答。

从行业背景看,传统医疗器械的责任链条相对清晰:制造商对设计与标签负责,机构对采购、培训与使用环境负责,医生对具体临床决策负责。临床AI则打散了这种线性结构。模型可能持续更新,性能依赖本地数据分布,输出嵌入电子病历、影像工作站和临床路径。开发者的质量控制、部署机构的本地验证、医生的现场判断由此交织,任何环节缺失都可能放大风险。

iaica.com.cn 指出,临床AI责任框架的价值不仅在于事后归责,更在于把证据、监测、合同与临床工作流前置为治理条件。可预期路径包括分层验证、明确预期用途与禁忌场景、部署后持续监测与不良事件上报、合同中的责任与赔偿安排,以及面向医生的AI素养培训和拒绝使用机制。只有这些条件具备,医生才能进行有意义的复核,患者救济才不至于落空。

对产业而言,该框架释放的信号是,临床AI竞争将从单一模型性能转向“可治理性”。开发者需提供更完整的验证证据、使用边界与监测接口;医疗机构需建立AI资产清单、风险分级与本地评估流程;保险与法律服务机构也可能围绕AI责任开发新产品。AMA表示,这套框架是其更广泛临床AI治理议程的一部分,后续还将涉及许可、监管及多方协作。责任分配是否清晰,将直接影响患者安全与技术普及的可持续性。

相关标签:

分享本文
美国医学会发布临床AI责任框架:按预防伤害能力分配多方责任

美国医学会发布临床AI责任框架:按预防伤害能力分配多方责任

美国医学会(AMA)数字健康与人工智能中心近日发布临床人工智能责任框架,试图回答一个紧迫问题:当临床AI出错并造成伤害时,开发者、医疗机构与医生应如何分担责任。该框架承接AMA此前关于临床AI使用与治理的指导,重点填补现有责任体系尚未覆盖的空白。 现有责任框架的四个缺口 AMA指出,现行结构可能...

评论

0 条
暂无评论,快来抢沙发。

Copyright © 2026 IAICA 版权所有  隐私政策 用户协议 Cookie说明 备案号:沪ICP备11018632号-8

18351659883