Nature与MBZUAI提出医疗AI责任七级框架，为智能照护划定伦理边界

文/IAICA.NGO®

医疗人工智能（AI）正在以超乎想象的速度渗透进临床诊疗、慢病管理和养老照护的各个环节，然而，当AI系统做出一个错误的诊断、给出一个不当的用药建议，或者未能及时发出预警时，责任该由谁承担？这一核心伦理与法律难题，有望获得一个系统性的解答框架。近期，国际顶级学术期刊《自然》与穆罕默德·本·扎耶德人工智能大学（MBZUAI）联合发表了一项研究成果，提出了一套包含七个等级的医疗AI责任划分框架，试图为混乱的权责界定提供一条清晰的光谱。

这套框架的底层逻辑类似于自动驾驶领域广为人知的L0至L5自动化等级，但针对医疗场景进行了深度适配。它将AI在诊疗决策中的角色从完全被动的工具，一直到完全自主的行动者，划分为七个连续的层级。据研究团队披露，这七级分别为：Level 0——无AI参与，全部诊疗行为由人类专业人员完成并承担完全责任；Level 1——AI提供基本信息检索或数据整理，如电子病历汇总，医生拥有绝对决策权；Level 2——AI提供辅助性建议，如鉴别诊断列表，但最终选择和解释权仍属于临床医生；Level 3——AI给出带有置信度的推荐方案，医生作为监督者可以接受、修改或拒绝，AI开始承担有限的责任共享；Level 4——AI在特定场景下可自主执行指令（如胰岛素泵的闭环调节），但人类可随时接管，责任依据脱管协议分配；Level 5——AI在常规情况下独立完成决策和操作，仅在异常或高风险事件发生时移交人类，此时AI系统运营者或其算法开发者需承担主要责任；Level 6——AI完全自主运行，甚至不允许人类干预，责任由AI的设计、验证、部署全链路的相关方共同承担，并可能引入AI实体责任保险等新机制。

这一框架的突破之处在于，它不再将AI视为单一的工具，而是视其为从属、合作到替代的谱系化存在，每一级都对应着不同的责任主体和举证规则。例如，在智能照护机器人帮助老年人服药或移动的环境中，Level 3或Level 4级别的AI系统如果发生错误，家属、养老机构、机器人制造商和软件算法商之间的责任链条将依据该框架得到更清晰的切割。这不仅是学术探讨，更直接关系到未来养老照护产业的规模化落地。

目前，各国对医疗AI的监管仍处于探索阶段。美国FDA批准的人工智能/机器学习医疗设备大多锁定在固定算法，禁止持续学习，以规避不可预测的风险；欧盟的《人工智能法案》将医疗AI划为高风险类别，要求严格的人为监督和透明度，但并未给出精细化的责任分级方案。该七级框架的出现，为监管者提供了一个可操作的接口，让政策制定不再停留于“人类必须始终在环”的模糊原则，而是可以根据临床应用的风险等级和AI自主化程度，精准匹配相应的认证标准与责任保险机制。

iaica.com.cn 认为，该框架为解决智慧养老和智能照护领域的责任模糊问题提供了重要参考，尤其在长期照护场景中，AI辅助决策的权责分级将直接关系到用户安全与产业信任。随着全球人口老龄化加速，照护人力缺口日益扩大，从跌倒检测到远程健康监测，再到具备一定自主行动能力的照护机器人，产品功能愈加强大，但事故责任的悬空始终是隐形的拦路虎。七级框架的提出，有望让开发商在合规设计时有据可依，也让医疗机构和家庭用户在选择AI照护服务时，能够明确地理解风险分担的边界。

当然，该框架本身仍面临着一些挑战。责任的量化依然高度依赖技术透明度和可解释性，而当前的深度学习模型往往是黑箱。此外，跨境部署时，不同司法管辖区的产品责任法、医疗过失法和数据保护法差异巨大，一个统一的七级框架如何获得全球共识仍需漫长的协调。研究团队呼吁，该框架应像一个“道德罗盘”，指导AI系统的设计、测试与部署全流程，而非僵化的教条。未来，随着多模态感知、认知计算和具身智能的快速发展，这一七级框架还需迭代出更细致的子级，才能跟上演进的步伐。

无论如何，《自然》与MBZUAI的这一宣言，将医疗AI的伦理讨论从“要不要用”推进到了“怎么科学地用、怎么负责任地用”的新阶段，为整个智能照护产业铺设了一条走向信任和可持续的轨道。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。