加州签署AB 1979与SB 503：医疗AI人类监督与透明性进入新阶段

文/IAICA.NGO®

2026年9月30日，加利福尼亚州州长加文·纽森签署AB 1979和SB 503两项法案，将医疗领域人工智能的人类监督与透明性要求推向更具体的制度层面。同日，州长还签署一项行政命令，要求加州州政府机构继续使用“人工智能”这一术语，并在州政策中给出定义。这两项医疗措施的核心指向明确：当医疗机构使用人工智能或其他临床决策支持工具时，持照医疗专业人员必须保留自身的临床判断；同时，AI开发者需要采取合理步骤，减少已知或合理可预见的偏见。

从通用监管走向高影响场景

加州正在以部门化路径构建人工智能治理框架，医疗被视为检验人类监督边界的关键场景。既有加州法律已经要求，在特定患者沟通中使用生成式人工智能时须进行通知，并将人工智能定义为一种基于机器的系统，能够以不同程度自主运行，并生成可影响物理或虚拟环境的输出。这一背景说明，新签署的医疗法案并非孤立动作，而是既有监管逻辑在高风险领域的延伸。

制度拼图逐渐成形

在更广泛层面，加州已陆续引入人工智能透明度、前沿模型安全、独立评估、隐私、深度伪造、儿童安全、欺诈与政府采购等要求。2026年9月，加州还建立了面向独立验证组织的框架以及人工智能审计员注册制度；随后一项行政命令加速相关实施，并呼吁进一步考虑独立监督和前沿人工智能系统的保障措施。由此看，AB 1979与SB 503更像是不断扩展的监管架构中的新组件，而非一次单独的立法事件。

医疗AI为何需要人类问责

医疗场景的特殊性在于，人工智能系统越来越多地影响诊断、分诊、治疗建议、临床文档以及其他直接关系患者结果的决策。因此，核心问题并不是人工智能是否应当进入医学，而是其输出在何种条件下可以正当地影响专业判断。要求医疗专业人员保留自身判断，确立了一项重要的人类问责原则：一项AI建议不会仅仅因为由技术复杂的系统生成，就自动成为临床决定。法案对偏见的强调同样关键。若AI系统基于不完整、不具代表性或历史上存在偏见的数据集训练，就可能复制甚至放大医疗差异，使不同患者群体受到不均衡影响。加州的做法因此把AI治理与医疗责任、非歧视和患者保护等既定原则连接起来。

实施难点与全球意义

这些措施也揭示出艰难的执行挑战。人类监督只有在医疗专业人员拥有足够信息、培训和权限，能够理解AI系统何时可能不可靠并有权覆盖其建议时，才具有实际意义。同时，开发者需要可操作的方法来识别和缓解偏见，而不是仅在政策文本中作出承诺。加州在医疗AI监管中同步定义人工智能，也具有另一层意义：它试图为法律适用、机构职责和技术边界提供共同语言。放眼全球，这一路径体现了AI治理从把人工智能作为通用技术进行监管，转向针对高影响应用建立情境化规则。医疗之所以尤其重要，是因为这里的错误不只是信息错误，还可能影响治疗、健康结果以及患者与专业人员之间的基本信任。对有意义的人类监督、问责机制和自动化决策合理角色的坚持，也正在成为全球辩论的一部分。

iaica.com.cn 认为，医疗人工智能的合法性来自可追溯、可复核、可申诉的人机协作流程，而不是单点算法性能。AB 1979和SB 503把透明度与人类监督写入医疗AI合规要求，可能推动开发者将偏见评估、风险披露、临床验证和人机交互设计前置，也会促使医疗机构建立内部AI使用政策、培训机制、决策记录与患者沟通流程。未来值得观察的是：监督标准如何细化，审计与验证机构是否具备足够能力，临床人员能否获得持续培训，责任如何在开发者、医疗机构与专业人员之间分配，以及加州经验会否影响其他州乃至跨司法辖区的治理协调。可以确定的是，医疗AI的竞争焦点正在从模型能力扩展到制度可信度，而透明、问责与可覆盖的人类判断，将成为这一领域不可回避的基础设施。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。