简体中文
关闭
AI照护资讯

临床AI需要一份「何时呼叫医生」的明确规则:Massive Bio联合创始人提出校准刷新系统框架

#AI照护与医疗科技 时间2026-10-30 05:35:01

文/IAICA.NGO®

临床人工智能的讨论长期围绕模型准确率与基准测试成绩展开,但一个更贴近病房现实的问题正被推到前台:当模型给出建议时,谁来决定它可以自动执行,又在什么情况下必须叫来人类医生。Massive Bio 联合创始人 Arturo Loaiza-Bonilla 近日在职业社交平台发文阐述这一命题,并同步公布其发表于《Journal of Clinical Informatics》的论文《Calibrated refresh systems for clinical artificial intelligence: A sociotechnical framework for expert escalation》。

临床AI需要一份明确的计划,说明何时应当呼叫临床医生。Loaiza-Bonilla 写道,专家的注意力是医疗体系中最稀缺的资源之一,如何分配这份注意力,理应获得与模型性能评估同等程度的严谨对待。这一判断直指当前医疗AI落地中的结构性错配:工程团队可以为模型投入数月调参与验证,却往往缺少同等精细的机制来界定人机交接的边界。

从模型校准到校准刷新

论文提出的核心概念是校准刷新系统(Calibrated Refresh Systems,CRS)。其基本设想是为AI辅助决策建立一套动态判断机制,回答两个连续问题:当前这一由AI支持的动作能否继续推进;当模型输出的不确定性升高到何种程度时,应当触发更深层次的专家复核。与常见的静态阈值告警相比,CRS 强调校准与刷新的结合,既包含对模型置信度是否可信的持续校验,也包含随患者状态变化、数据分布漂移而更新升级规则的机制。

值得注意的是,该框架把人机协作当作系统问题而非单纯的算法问题处理。它串联起模型校准、不确定性表达、临床工作流与责任归属等环节,试图让何时求助从依赖个人经验的隐性判断,转变为可被设计、可被审计的显性流程。

三类高风险场景

作者列举了该框架的潜在应用方向:脓毒症识别、住院患者临床恶化预警,以及肿瘤临床试验的患者匹配。三者的共同特征在于,AI输出既可能带来时间窗口上的显著收益,也可能因误判造成不可逆后果,因此对人机交接的规则要求格外严格。

以脓毒症为例,早期干预对预后影响巨大,但过度敏感的告警会迅速消耗医护注意力,形成告警疲劳;而在肿瘤试验匹配中,模型需要在高维度的基因、病理与既往治疗信息中筛选候选方案,不确定性往往难以用单一概率值表达。CRS 的思路是让升级规则与场景风险相匹配,而不是用一套统一阈值覆盖所有临床情境。

从概念框架到前瞻性验证

需要指出的是,该论文定位为概念性框架,并提出了一条通往前瞻性临床验证的路线图,尚未公布多中心实证结果。作者表示,期待与 St. Luke's University Health Network 的同事以及临床AI社群进一步讨论这些设想。这也意味着,框架能否在真实临床环境中降低不良事件、同时不显著增加专家负担,仍待后续研究检验。

在更广的行业语境中,医疗AI的竞争焦点正从模型能力转向落地治理。可解释性、自动化偏见、责任界定与告警治理等议题,逐渐成为医院采购与临床部署中的实际门槛。iaica.com.cn 指出,真正决定临床AI能否规模化的,往往不是模型在测试集上多出的几个百分点,而是机构是否具备清晰的升级规则、可追溯的决策记录与合理的人力配置。

对临床团队而言,Loaiza-Bonilla 提出的问题带有很强的操作性:在实践中,哪些环节的升级规则最需要被写清楚。这个问题的答案,可能比任何一项算法改进都更直接地影响照护质量与医护负荷。

相关标签:

分享本文
临床AI需要一份「何时呼叫医生」的明确规则:Massive Bio联合创始人提出校准刷新系统框架

临床AI需要一份「何时呼叫医生」的明确规则:Massive Bio联合创始人提出校准刷新系统框架

临床人工智能的讨论长期围绕模型准确率与基准测试成绩展开,但一个更贴近病房现实的问题正被推到前台:当模型给出建议时,谁来决定它可以自动执行,又在什么情况下必须叫来人类医生。Massive Bio 联合创始人 Arturo Loaiza-Bonilla 近日在职业社交平台发文阐述这一命题,并同步公布其发...

评论

0 条
暂无评论,快来抢沙发。

Copyright © 2026 IAICA 版权所有  隐私政策 用户协议 Cookie说明 备案号:沪ICP备11018632号-8

18351659883