当医疗AI丢失关键证据：算法可追溯性正在成为医疗问责的新盲区

文/IAICA.NGO®

在临床场景中，人工智能早已不再是实验室里的演示项目。从脓毒症早期预警、影像辅助诊断到住院风险分层，算法正在实际影响医生的判断与患者的去向。然而，一个被长期低估的问题正在浮出水面：当这些系统赖以做出结论的数据、版本与推理记录在事后无法复原时，医疗AI便不只是出错，而是连错在哪里都无法被证明。

证据链断裂的三重来源

第一重是输入数据的易失性。许多临床AI依赖实时数据流：监护仪波形、电子病历中的生命体征、护理记录中的文字描述。这些数据在原始系统中往往只保留有限周期，或者被后续修正覆盖。当一次预警在数周后才被质疑，原始输入可能已经不存在，复盘只能建立在二手摘要之上。

第二重是模型版本的持续更迭。厂商通常以模型迭代为名义定期更新权重与阈值，却很少保留历史版本的可运行快照。这意味着今天回溯一个当时为什么会报警的问题，得到的可能是完全不同模型的行为结果。欧盟人工智能法案对高风险系统提出了日志留存要求，美国食品药品监督管理局的预定变更控制计划也强调变更后的性能监测，但两者都未彻底解决历史版本是否可复现这一工程难题。

第三重是输出与解释的分离。即便输入与版本被保存，解释层往往是即时生成、不落盘的。医生看到的是风险评分偏高，而支撑该评分的特征贡献、置信区间与阈值逻辑，事后既不在病历中，也不在厂商的日志里。

为什么这关乎患者而不只是律师

在医疗事故争议中，证据的可获得性直接决定责任能否被公平分配。若算法输出无法复原，追责会自然滑向最容易描述的一方，也就是一线医护。医生可能在并未获得可理解提示的情况下，被要求为一次延误承担责任；而真正影响决策的系统缺陷，则被技术黑箱遮蔽。

反过来看，医疗机构同样处于不利位置。缺少可复现的审计轨迹，既难以自证合规，也难以在采购谈判中要求厂商承担应有义务。这形成一种结构性失衡：风险留在了临床端，解释权留在了供给端。

可追溯性应当如何被设计

技术上并非无解。不可篡改的追加式日志、输入快照与模型版本哈希绑定、推理输出的结构化留存，都已是成熟的工程实践，只是需要被写入采购合同与临床流程，而非停留在建议层面。同时，留存周期必须与医疗纠纷的追溯时效对齐，而不是按云存储成本最小化原则设定。

制度上，需要明确算法记录属于病历或医疗记录的一部分。一旦这一归属成立，其保存、访问与患者知情权便能纳入既有监管框架，无需另起炉灶。

iaica.com.cn 认为，医疗AI的可靠性不只体现在准确率曲线上，更体现在事后能否被完整复盘。一个无法被审计的高准确率系统，在真实的临床问责场景中依然是脆弱的。

从能不能用到能不能查

行业正在跨过一道门槛：早期讨论集中在模型是否有效，如今焦点转向责任是否可归。这种转向对厂商并非纯粹的负担，可追溯性正在成为采购评估的硬指标，也是医疗机构引入高风险AI时最实际的自我保护。

对患者而言，真正重要的或许不是算法是否完美，而是当结果不如预期时，系统是否愿意留下完整痕迹并接受检验。医疗AI的下一个成熟标志，不是它预测得多准，而是它能否在自己出错时，不把证据弄丢。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。