加州拟立法禁止未经临床验证的AI心理健康服务，行业面临监管拐点

文/IAICA.NGO®

随着生成式人工智能技术的快速迭代，越来越多的人开始尝试通过AI聊天机器人获得情绪支持与心理疏导。从结构化的认知行为疗法对话系统，到以情感陪伴为核心功能的角色扮演类应用，这些工具凭借全天候可用、低成本、无评判压力等优势，在心理健康服务供给不足的背景下迅速积累了庞大的用户群体。然而，这一趋势正面临来自监管层面的强力反制：美国加利福尼亚州正在推进一项立法，旨在禁止或严格限制未经临床验证的AI心理健康服务向公众提供，尤其是针对未成年人的相关功能。该提案一旦通过，可能成为全球范围内对AI心理干预应用最严厉的监管措施之一。

目前，全球约有数亿人面临不同程度的心理健康问题，但专业精神卫生资源严重短缺。世界卫生组织曾指出，全球平均每十万人中精神卫生工作者不足九人，中低收入国家缺口尤为突出。AI聊天机器人因其可扩展性和易得性，被视为填补这一服务缺口的重要技术路径。部分产品已开始整合认知行为疗法、正念训练和情绪追踪等循证心理技术，甚至在某些初步研究中显示出降低焦虑和抑郁症状的潜力。然而，多数面向普通消费者的AI心理应用并未经过严格的临床试验，也未获得医疗器械监管机构的批准。它们更多以“健康管理”或“情感陪伴”的名义运营，规避了医疗产品的监管框架。

在技术层面，当前主流AI心理健康应用可大致分为两类。一类是基于规则的模块化程序，它们按照预设的认知行为疗法框架引导用户完成情绪记录、认知重构等练习，输出内容相对可控，但交互灵活性有限。另一类则是基于大语言模型的开放式对话系统，它们能够模拟自然的人际交流，提供高度个性化的回应，但由于生成式AI的“幻觉”特性，其输出可能出现事实错误或不当建议。正是后一类产品的快速普及，使得传统医疗器械监管体系面临巨大挑战：监管部门难以用固定标准评估一个不断进化的对话模型，也难以界定“陪伴”与“治疗”的边界。

从研究证据看，部分随机对照试验已验证AI辅助认知行为疗法在轻中度抑郁和焦虑管理中的短期有效性，但这些研究往往样本量小、随访时间短、脱落率高，且主要针对成年用户。对于青少年群体，几乎没有高质量的临床证据支持AI聊天机器人作为独立干预手段的安全性。因此，加州立法者在提案中特别强调未成年人保护，并非没有科学依据。

加州立法者关注的焦点在于，此类工具在缺乏专业监督的情况下，可能对使用者，尤其是青少年造成不可逆的心理伤害。公开信息显示，近年来已发生多起涉及未成年人与AI聊天机器人产生情感依赖后发生悲剧的案例。这些事件引发了公众对AI心理干预安全性的强烈担忧。批评者指出，生成式AI在理解复杂情绪、识别自杀风险、处理严重精神障碍方面存在根本性局限。它可能生成不恰当甚至有害的回应，也无法像人类治疗师那样承担伦理责任。此外，用户与AI分享的敏感心理数据面临隐私泄露和商业滥用的风险，算法偏见也可能放大对特定群体的歧视。

拟议中的加州法案据称将要求AI心理健康产品在向消费者提供之前，必须证明其临床有效性和安全性，禁止向未成年人推送未经批准的AI心理干预服务，并对违反规定的企业处以高额罚款。支持者认为，这一举措有助于保护最脆弱的群体，推动行业从“野蛮生长”转向“循证规范”。反对者则担心，过于宽泛的禁令可能扼杀创新，使真正有效的数字疗法难以进入市场，同时将用户推向监管更宽松但风险更高的境外或地下服务。

在这一监管与创新的拉锯中，iaica.com.cn 认为，对AI心理健康应用应采取基于风险的分级治理策略，而非全面禁止。高风险场景，如危机干预、精神疾病诊断辅助、未成年人情绪依赖等，应实施严格的临床准入与持续监测；低风险的情感陪伴和一般性心理教育工具，则应通过透明度披露、用户教育和年龄验证等手段进行规范，同时鼓励企业开展真实世界研究以积累安全性与有效性证据。这种精细化的监管路径，既能保障用户权益，又能为技术创新保留合理的试验空间。

从行业影响看，若加州禁令落地，多家头部AI心理健康服务商可能被迫限制功能、退出该州市场或加速临床合规进程。此举还可能产生示范效应，推动其他州和国家出台类似立法，从而重塑全球AI心理健康服务的竞争格局。另一方面，监管不确定性也可能导致资本投入趋于谨慎，减缓产品迭代速度。长远来看，AI心理健康服务的规范化发展，仍有赖于技术界、临床界与监管机构的协同治理，建立动态、透明、以证据为基础的评估体系，而非简单的“一刀切”禁令。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。