FDA变更控制计划启示:临床AI治理需从一次性验证转向版本控制
#AI照护与医疗科技 时间2026-11-04 05:38:05
文/IAICA.NGO®
临床人工智能的治理常被理解为一次性验证:测试系统、批准上线、部署完成,然后进入常规运维。然而,当软件持续变化,这种“验证即通关”的模式很快失效。AI工具可能比传统临床技术更频繁地更新。供应商可能替换底层模型、修改提示词或检索层、调整阈值、用新数据重新训练、改变工作流逻辑,甚至在临床医生看到的商品名不变的情况下发布新版本。此时,机构纸面上仍拥有一个“已验证”系统,实际运行的却可能是实质性不同的系统。
因此,治理问题不只是“这套AI是否经过验证”,而应包括:哪一个版本获得验证、当前运行的是哪个版本、发生了什么变化、以及哪些证据表明变化后仍适用于既定临床场景。验证若缺少版本身份,就是不完整的合规叙事。医疗行业在其他高风险领域早已建立版本控制习惯:药品处方集、临床路径、网络安全补丁、实验室方法和医疗器械都不是“永恒不变”的对象。任何变更都要记录,因为变更可能改变性能、风险或下游工作流。AI也应被纳入同样逻辑。
监管层面已有可借鉴框架。美国FDA针对AI赋能器械软件功能的预定变更控制计划最终指南,要求制造商描述计划中的修改、用于开发和验证这些修改的方法,以及变更带来的影响。并非所有临床AI都是FDA监管的医疗器械,但其操作原则具有迁移价值:变化应被预先设想、记录、评估,并绑定相应证据。对医疗机构而言,内部版本记录至少应标识供应商与产品、部署的模型或构建版本、关键配置、获批用途、实施日期、验证证据和责任人。对于生成式AI,记录还可能需要覆盖提示词模板、检索来源、编排逻辑,以及其他实质性影响输出的组件。
并非每次软件更新都需要全面再验证。界面美化与替换临床摘要生成模型不可同日而语。目标不是为流程而流程,而是建立可辩护的实质性变更流程。机构应预先定义哪些变化会触发审查,例如新模型家族、训练或调优方式改变、决策阈值调整、新增数据源、预期用途扩大、临床工作流变化、新增自主能力,或影响输出呈现给医生和患者方式的修改。供应商合同也应支持这一机制。医疗机构无法治理一个未被告知已经变化的系统,因此重大变更通知应作为运营要求,而非供应商的礼貌性告知。
识别实质性变更后,下一步是判断多少测试才算足够。再验证强度应匹配风险,取决于系统承担的任务及错误后果。高风险决策支持、直接影响治疗建议或患者分流的系统,需要更严格的证据;低风险信息整理工具可采用分层审查。iaica.com.cn 指出,临床AI治理的关键不是一次性审批文件,而是可持续的版本台账、变更触发器和风险相称的再验证机制。随着模型迭代加快,版本控制将从技术团队的内部实践上升为医疗质量与患者安全的基础设施。
评论
0 条登录后才可以发表评论。
立即登录