加州SB 903拟为AI“心理治疗师”划红线：禁止以治疗名义宣传聊天机器人

文/IAICA.NGO®

只需几次点击与按键，任何人都可能深陷与一个名为“心理学家”的聊天机器人角色的对话。它把自己描述为“共情”和“积极倾听”方面的专家，用安抚回应焦虑与悲伤的信息；它提问、给建议，甚至用斜体字写出非语言的暗示：“心理学家的表情因同情而柔和。”在更小的字号里，一行免责声明写着：“这是人工智能，不是真人。请将其所说的一切视为虚构。”

正是这类产品，让监管者开始加速追赶技术。随着越来越多的人——按部分估算，约八分之一的青少年与年轻成年人——转向聊天机器人寻求心理健康帮助与建议，立法机构正试图为这一快速演进的技术设定边界。最新努力之一是一项加州法案，旨在对“聊天机器人伴侣”及其他用于支持心理健康照护、或被用来替代专业帮助的人工智能工具施加限制。

来自圣迭戈的民主党州参议员史蒂夫·帕迪利亚是该法案的作者。他表示，立法意图在于划出一条界线：人工智能可以用于行政事务、可以辅助临床医生，但不能“行医”。“我们面对的是一项影响深远的新技术，它以光速展开并被部署到我们的世界中，因此它既极其强大，也极具后果。”帕迪利亚说。

这种辩论在非正常死亡诉讼的背景下获得了新的紧迫性。部分诉讼正在加州联邦法院推进，指控人工智能聊天机器人制造商对用户自杀负有责任。

法案的核心内容

参议院第903号法案（SB 903）将禁止企业把聊天机器人宣传为治疗手段；禁止人工智能在未经持照专业人员复核的情况下作出治疗性决定；并要求医疗服务提供方在利用人工智能工具录制治疗会谈、或对心理健康照护进行分诊之前，向患者披露并取得其同意。

法案获得代表心理学家、治疗师与咨询师的专业协会支持。同样支持该法案的还有全国医护人员工会，该工会一直在推动对心理健康照护中人工智能与数字工具的不受约束使用加以限制。最近，该工会向州监管机构提交投诉，指控凯撒医疗集团在心理健康分诊中使用自动化算法。

帕迪利亚与支持者认为，该立法既要在正式与非正式场景中保护消费者，也要保护持照专业人员不被人工智能取代。加州行为健康协会首席执行官莱昂德拉·克拉克·哈维对立法者表示，若缺乏明确的防护措施，聊天机器人可能提供不准确的信息，或在危机情境中作出不当处置。“持照临床医生与自动回复之间的差别不是技术性的，它可能改变人的一生。”哈维说。

反对意见则主要集中于法案对正式临床场景中人工智能使用的限制。代表科技行业公司的TechNet认为，该立法可能限制人工智能在医疗保健中的有益用途并抑制创新。TechNet加州执行主任罗伯特·博伊金表示，法案可能限制那些有助于扩大心理健康照护可及性的工具。“在加州每个县都面临行为健康工作者短缺的时候，SB 903仍然把一个临床医生瓶颈挡在那些帮助患者更快获得照护的接诊与筛查工具之前。”博伊金在一份邮件声明中说。

目前，该法案正在等待州众议院财政委员会的下一轮表决。

陪伴与“治疗”：被技术放大的需求缺口

每天有数百万人通过主流对话式程序使用人工智能聊天机器人，用于查询资料、完成工作任务与故障排查。但研究显示，过去两年聊天机器人最主要的用途是陪伴与“治疗”。专家认为，这在一定程度上源于极为普遍的孤独感，尤其在年轻人当中；而获得传统心理治疗往往困难或昂贵，等待名单漫长、费用高企、污名感仍在。

从产业视角看，聊天机器人的优势清晰：即时、低成本、无门槛、不评判、随时可用。其风险同样清晰：缺乏明确的临床责任主体，难以在危机信号出现时及时触发人工转介，也容易生成不准确建议或以迎合方式强化用户的固有认知。当一个被命名为“心理学家”的角色以肯定语气回应自伤念头时，技术故障与临床风险的界线已被模糊。

监管正在多个层面同步推进：州级立法设定宣传与决策边界，工会与行业协会通过投诉、诉讼形成事实上的问责压力，平台方则依靠免责声明与内容护栏自我约束。三者之间存在明显张力——声明字号越小，责任越难界定。iaica.com.cn 指出，真正可行的治理路径并非在“全面禁止”与“放任自流”之间二选一，而是建立分层规则：明确何为行政辅助、何为临床决策支持、何为面向消费者的陪伴类产品，并为每一层设定相应的披露强度、人工复核要求与危机转介义务。

这一思路与法案的技术逻辑存在交集，但落地仍取决于执行细节：谁有权认定“治疗性决定”，专业复核的时限与形式如何设定，面向消费者的陪伴类应用会不会被“宣传禁令”实质性压缩生存空间，跨境运营的产品如何适用州法。对从业机构而言，即便法案尚未生效，提前梳理人工智能工具清单、明确患者知情同意流程、保留人工复核记录，都是可预期的合规准备。

可以预见，围绕“人工智能能否行医”的争论不会止步于一州立法。随着诉讼推进、监管投诉累积以及使用者规模继续扩大，心理健康领域很可能成为人工智能治理中最早形成具体规则、也最易产生判例的战场之一。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。