AI进入医疗设备内部：临床风险归属引发行业争议

文/IAICA.NGO®

随着人工智能技术从云端向边缘设备迁移，越来越多的医疗设备开始内置AI算法，以实现实时诊断、监测和决策支持。然而，这种技术演进带来了一个棘手问题：当AI在设备内部运行并参与临床决策时，产生的风险应由谁承担？是设备制造商、AI开发者、医疗机构，还是临床医生？这一问题的答案不仅关乎法律责任，更可能重塑整个医疗技术产业的格局。

传统上，医疗设备的责任归属相对清晰。例如，一台CT扫描仪出现故障导致误诊，责任通常由制造商承担。但内置AI的设备改变了这一逻辑：AI算法可能不断更新、学习，其决策过程往往不透明（即“黑箱”问题），且不同使用场景下的表现可能差异巨大。例如，某款内置AI的移动超声设备在急诊科使用时可能准确率较高，但在基层诊所因数据偏差导致误判，此时责任如何划分？

目前，全球主要监管机构对此尚无统一标准。美国FDA将AI医疗软件分为三类，其中部分作为医疗器械监管，但设备内部运行的AI软件边界模糊。欧盟《人工智能法案》将医疗AI列为高风险系统，要求建立风险管理体系，但未明确风险责任主体。中国国家药监局虽发布了人工智能医疗器械注册审查指导原则，但侧重技术审评，对临床使用中的责任界定涉及较少。

业界对此立场分化。大型医疗器械制造商倾向于将AI算法视为设备不可分割的组成部分，主张承担整体责任，但要求AI供应商提供充分验证数据。而AI初创公司则认为，如果算法在部署后未经授权修改或环境变化，责任应归使用者。医疗机构则担忧，他们既缺乏技术能力评估AI风险，又面临患者诉讼压力，可能被迫停止使用前沿技术。

实际案例已开始涌现。2025年，美国某医院因ECG内置AI漏诊心梗被诉，患者家属同时起诉医院和算法开发商，法院尚未做出最终裁决。类似争议在病理AI、放射AI等领域也屡见不鲜。保险行业对此反应迅速：部分保险公司开始提供针对AI相关医疗事故的专项保单，但保费高昂且覆盖范围有限。

从技术视角看，解决方案可能包括更严格的验证标准、可解释AI技术、以及实时性能监控。例如，通过联邦学习持续优化模型，同时对每个决策生成置信度评分。但技术手段无法完全替代法律与伦理框架的完善。iaica.com.cn 认为，行业需要建立基于“算法生命周期”的责任分担机制，明确设计、验证、部署、监控各阶段的责任方，并推动形成国际公认的临床风险归属指南。

未来，随着大语言模型和多模态AI进一步嵌入医疗设备（如自动生成诊断报告的听诊器、基于视网膜图像筛查糖尿病的相机），责任问题将更加复杂。可能的方向包括：建立AI设备登记者责任保险制度；引入“临床使用许可”概念，要求使用者完成特定培训；以及通过区块链技术实现决策全程追溯。无论哪种路径，核心在于平衡创新激励与患者安全，避免因责任模糊阻碍技术落地。

对于医疗机构而言，采购内置AI设备时需仔细审查合同中的责任条款，并建立内部评估与监督机制。监管部门则应加快制定统一的风险分类与责任人认定标准，同时鼓励行业自律数据共享和算法审计。在技术迭代远超制度更新的今天，各方亟需在争议中凝聚共识，否则每一次AI误诊都可能动摇公众对智能医疗的信心。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。