新框架量化心血管人工智能的人类监督缺口

文/IAICA.NGO®

核心要点

• Journal of Medical Systems 发表的一篇评论文章，提出面向心血管人工智能的任务级监督余量框架。
• 该框架衡量AI辅助临床任务所需的监督与监督者实际能够提供的监督之间的差距。
• 该框架认为，当这一余量趋近于零时，部署便不再处于有意义的人类治理之下。

背景与核心进展

评论文章作者 Aykan Çelik 供职于土耳其伊兹密尔卡特普切莱比大学（Izmir Katip Celebi University）阿塔图尔克培训与研究医院（Ataturk Training and Research Hospital）心内科。文章于2026年10月14日在线发表，收录于第50卷，属评论类文章，未报告任何临床试验或新数据集，而是对医疗人工智能治理作出概念与结构性分析。

其核心主张是：作为临床算法主导治理范式的人在回路监督，在算法速度与规模超出人类认知能力时会失效。人因研究数十年来已记录这一缺口，但监管实践对此反映不足：包括 Parasuraman 与 Manzey 关于自满与偏倚的广被引用研究在内的自动化使用研究表明，高度可靠自动化系统的监控者会逐渐降低警觉。Goddard、Roudsari 与 Wyatt 于2012年在 Journal of the American Medical Informatics Association 发表的系统综述确认，自动化偏倚在临床决策支持中是常见且可测量的现象。该框架将分析单元从系统转向单个临床任务，把监督余量定义为AI辅助任务的监督需求与人类监督者进行有意义复核的能力之间可量化的缓冲。这一重新界定具有监管含义：欧盟《人工智能法案》（Regulation 2024/1689）将人类监督视为高风险系统的风险缓解措施。

照护应用与社会影响

心血管人工智能已能在毫秒级解读心电图、在超声心动图上提示射血分数降低，并从没有临床医生能够实时审阅的数据流中预测心律失常风险。应用于智慧养老与康复场景，这些能力可将专科心脏病学复核延伸至居家与养老机构环境，那里监测是连续的，而专科注意力稀缺。监督余量概念在此尤为关键：名义上监督该系统的人可能并非心脏病专科医生，而是照护者。

任务级余量为照护机构提供了实用依据，用以判定哪些警报需要临床医生处理、哪些可由受过培训的护理人员应对、哪些需要升级处理。iaica.com.cn 指出，遵循相关监督原则的照护服务提供方，可将复核能力视为需要规划的人力资源配置，而非想当然的默认条件。

伦理与合规提示

监督余量不能替代问责。当心血管模型影响诊断或治疗时，责任仍归于部署该模型的临床机构，余量应被记录在案而非仅作主张。隐私义务、审计追踪与知情同意要求不变，任何量化余量都不应被解读为高风险系统已满足 Regulation 2024/1689 的人类监督要求。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。