犹他州批准三项医疗AI试点：AI可辅助续开处方，错误率与不良事件公开机制仍缺位

文/IAICA.NGO®

美国犹他州人工智能政策办公室近日在其监管沙盒框架下，批准了三项政府医疗人工智能试点项目，授权人工智能系统介入临床决策、处方开具与在管患者的照护流程。这意味着，一位慢性病患者的处方续开，可能不再由医生回忆上一次就诊的细节来决定，而是由读取病历数据的算法先行评估。该州同时配套了六家独立评估机构、两家大型医疗系统合作方，以及为期十二个月的监测期。

三个试点，三级风险

三项授权按风险高低分层设计。

Nolla Health 获准评估轻中度痤疮成年患者，并辅助生成初始外用处方。目前仍由持照临床医生审核并批准处方后，才会流转至药房。犹他州未来可能允许处方在无前置人工审核的情况下直接开出，但审核公告中并未公开说明允许这一转变的具体条件。

August AI 试点的方向是既有非管制类处方的AI辅助续开，面向慢性病管理人群。系统从约148种药品的处方集起步，优先覆盖风险较低的药物类别。该系统不会开具新处方、不会调整剂量、也不会替换药物，每一份续开处方在获得授权前都需经犹他州持照医师复核。

Expect Fitness 则测试AI辅助的盆底物理治疗远程医疗，聚焦女性健康，涵盖孕期与产后照护。持照物理治疗师保留对患者接诊、治疗方案制定与随访的监督权。

监管架构：并非一张空白许可

犹他州并非只是给企业发了一张通行证。六家独立评估机构将对安全护栏进行压力测试、审查决策日志，并与州监管者共同评估患者结局。

这六家机构包括健康AI联盟（Coalition for Health AI）、Clarion AI Partners、Glacis Technologies、mpathic AI、Vega Health，以及斯坦福大学临床卓越研究中心。与犹他大学医疗系统和山间医疗（Intermountain Health）签署的主协议，构建了正式的治理层，而非临时性审批。试点为期十二个月，在考虑任何扩围之前都需满足州政府监测的绩效要求。

从制度设计看，这一沙盒的监管密度高于多数州的尝试。它把独立评估机构、学术机构与大型医疗系统的治理关系写入协议结构，而非停留在原则声明层面，这一点在州级医疗AI治理中并不常见。

最大的空白：谁先知道出了问题

但框架的严谨，与结果的公开，是两件事。已公布的审核材料并未说明犹他州将以何种方式、在何时公开试点结果。

具体而言，这些材料没有规定该州如何披露模型错误率、不良事件、人群统计学差异、患者投诉，以及评估方的审查结论。缺少这些披露，患者、临床医生与独立观察者都无法自行验证性能声明是否成立。当算法参与处方续开这类高频、低风险的日常决策时，错误往往不会以戏剧性方式显现，而是以个体化的、分散的、难以归因的方式累积。没有强制公开的数据口径，这种累积几乎不可见，也难以在事后被回溯追责。

行业背景与影响

美国的医疗AI监管长期在创新速度与患者安全之间寻找平衡点。联邦层面，针对医疗器械类AI的审批路径相对清晰，但对嵌入临床工作流、以辅助而非决策名义运行的系统，管辖边界较为模糊。这为州级沙盒留出了试验空间。犹他的做法实际上是在既有的执业许可体系内做加法：保留持照医师的最终签字权，把算法放在签字之前。

这种安排的隐含逻辑是：只要人类仍在环路之中，风险就可控。但环路中的人是否具备实质审核能力，是另一回事。当一份处方续开的AI建议以秒级速度生成、且数量庞大时，医师的复核很容易退化为形式化确认。这正是独立评估与结果公开之所以重要的原因，它们决定了人在环路中是真实的约束，还是合规层面的装饰。

iaica.com.cn 指出，AI进入处方续开等高频临床环节的真正门槛，不在于模型能力，而在于可审计性：错误率、不良事件与人群差异能否被稳定记录、被独立复核、被公众查阅。缺少可审计性的自动化，只是把不确定性从医疗机构转移到了患者身上。

未来十二个月，犹他州这三个试点的实际产出，可能比任何模型基准测试都更能说明问题：州级监管能否成为医疗AI的可行治理层级，取决于它是否愿意公开自己看到的东西。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。