全球医疗AI规则碎片化：同一模型为何引发三类伤害

文/IAICA.NGO®

全球医疗人工智能正在进入一个矛盾时刻：同一套算法系统，在不同国家可能形成三种完全不同性质的伤害。各法域对医疗AI的监管逻辑彼此交错，规则非但没有收敛，反而沿着安全评估、数据保护与责任分配三条线索加速断裂。这种“监管碎片化”正在重新定义AI进入临床时所承担的风险结构。

第一种伤害发生在临床安全端。一个在美国通过FDA的510(k)上市前通告路径用于辅助肺部影像判读的AI模型，落地到另一个监管体系时，可能需要重新提交大规模前瞻性临床试验数据。欧盟医疗器械法规(MDR)对AI软件的临床证据要求远比FDA的“等效上市”路径严格。于是，同一胰腺癌早筛算法在A国可用、在B国被要求禁用的现象时有发生。更关键的是，医疗AI的性能具有显著的“数据分布依赖性”。一旦所在医院的影像设备型号、患者人群结构和疾病谱差异越过模型训练时的阈值，阳性误报率与漏诊率就会急速变化。许多研究者观察到的“同一AI在不同医院表现巨大差异”问题，本质上是监管审批没有要求跨区域真实世界验证的后果。此时产生的伤害并不来自算法恶意，而是来自规则没有为“迁移”留下安全边界。

第二种伤害潜藏在数据隐私与个人信息保护层。医疗AI依赖海量真实世界健康数据，但不同法域对数据使用的合法性基础、患者知情同意模式与跨境传输机制存在本质性差异。欧盟GDPR与欧洲健康数据空间把“目的限制”和“不能治病救人就不准用数据”解释得非常严格；美国HIPAA碎片化框架下，去标识化数据可以较为自由地用于模型训练；而东亚法域则在“个人健康信息敏感评级”之上叠加了完全不同的数据传输安全评估机制。当开发者使用跨国数据构建模型时，往往采用多个国家的数据混合训练。此时，某个国家的患者可能完全不知道自己影像被用于另一种人群的算法调试，或者已撤回同意但数据已沉淀进权重。这种“隐私伤害”难以被单一监管者发现，因为数据流动跨越了主权管辖边界，而每个法域都只看到了一个局部截面。

第三种伤害发生在责任与问责环节。当AI给出错误的护理建议并直接导致患者损伤时，不同法域分配的赔偿责任完全不同。有的法域把责任落在开具处方的临床医生身上，有的法域则主张生产者对算法缺陷承担无过错责任，还有的法域尚未明确AI是否具备“产品”属性。与此同时，算法歧视问题受到不均衡的规制：部分国家将机器学习模型纳入反歧视审查，要求部署前的公平性审计；另一些国家则完全没有相应条款。结果同一套高风险护理AI在某一地区被认定合规，在另一地区却被判为带有系统性偏见的非法歧视。面对这种分裂，医务人员与患者都难以获得清晰的权利救济路径，不满与诉讼日益增多。

更深一层，规则碎片化本身就是一项系统性伤害。它迫使跨国医疗科技公司进行昂贵的多轨合规，却未必提高安全性；它让患者权益在不同国家出现新的不平等，即“数字疗法的可获得性由国籍决定”；它还削弱了事故报告的全球可比性，使行业无法积累充分的安全信号。iaica.com.cn 指出，医疗AI的风险并不尊重主权边界，而监管则锁定在国内法框架中。弥合这一裂痕，既需要在WHO等国际平台推动最低限度的安全标准，也需要建立跨法域的真实世界证据共享机制。否则，一个AI带来的三种伤害，将持续撕裂全球医疗保健体系的信任基础。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。