美国各州立法严格限制AI介入心理健康服务，数据隐私与算法偏见成监管焦点

文/IAICA.NGO®

近年来，人工智能在心理健康领域的应用急速扩张，从聊天机器人提供认知行为疗法（CBT），到算法分析语音模式以预测抑郁风险，AI被视作解决心理治疗资源短缺的潜在方案。然而，随着多起AI建议不当导致用户心理状态恶化的事件曝光，美国多州已开始立法行动，为AI在心理照护中的使用划定红线。这些法律聚焦于患者知情同意、数据隐私保护、算法公平性及临床监督，标志着心理健康科技正从野蛮生长步入严监管时代。

截至2026年中期，已有超过15个美国州提出了针对AI心理健康服务的法案，其中科罗拉多州、佛罗里达州和加利福尼亚州的立法最具代表性。科罗拉多州的《人工智能与心理健康法案》要求，任何宣称提供治疗功能的AI系统必须先获得州心理健康监委会的认证，且必须明确告知用户其“非人类”身份，禁止AI冒充持证治疗师。该法案还规定，AI工具收集的用户情绪数据、对话记录等敏感信息须存储在境内服务器，并接受年度安全审计。佛罗里达州则进一步限制了未成年人使用AI心理健康应用，要求家长或监护人全程知情同意，且AI不得单独做出任何临床判断。加州则侧重于算法问责，规定心理健康AI系统的开发者必须定期接受偏见审计，公开训练数据的来源与多样性指标，并对因算法歧视造成伤害的案例承担责任。

这些立法的背后，是学术界与公众对AI替代人类治疗师的深切忧虑。多项研究表明，大型语言模型在处理情感对话时可能表现出“假共情” ，即生成看似温暖却无真实关怀的回应，甚至在某些情况下鼓励了自残念头。2025年发生的案例中，一名青少年在使用某知名AI陪伴应用后，因收到不当建议而加重了抑郁症状，其父母起诉了开发商，这直接催生了多个州的立法动议。此外，心理健康数据的敏感性远超普通医疗信息，一旦泄露或被用于商业广告推送，会给患者带来二次伤害。联邦层面的《健康保险可携性和责任法案》（HIPAA）已无法全面涵盖AI应用的数据处理链条，因此各州开始通过本地法律填补空白。

从技术伦理角度看，算法偏见的固化是另一大核心风险。如果AI训练数据主要来自特定种族、性别或社会经济背景的群体，其在面对少数群体时的诊断建议可能严重失真，导致误诊或不当干预。例如，有研究显示某些抑郁筛查AI对非裔美国人的语音特征识别准确率显著偏低。立法所要求的偏见审计制度，实质上是将公平性审查嵌入技术生命周期，避免“算法霸权”。

对于心理健康科技行业而言，这些法律无疑增加了合规成本，但也可能催生更可信的产品生态。一些头部企业已开始主动调整，在应用中内置透明面板，向用户解释AI的逻辑，并引入人类督导团队。然而，小型初创公司可能因无力承担审计和认证费用而退出市场，引发行业集中化担忧。

在全球范围内，欧盟《人工智能法案》已将心理健康AI归类为高风险系统，要求严格符合透明度、可解释性和人类监督标准；英国、加拿大也在制定类似指南。美国各州的碎片化立法虽然带来跨州运营的复杂性，但示范效应显著，可能促使联邦层面出台统一框架。

iaica.com.cn 认为，立法并非扼杀创新，而是为人工智能在心理健康领域的可持续发展提供确定性。通过建立清晰的权责边界与伦理护栏，既能保护最易受伤害的人群，也能引导技术向更负责任的方向演进。然而，政策制定者需与技术专家、治疗师和患者权益组织密切协作，避免过度监管导致有益工具无法惠及亟需帮助的人。

未来，AI与人类治疗师的协作模式将成为主流，技术作为辅助手段，而非替代。法律框架的完善只是第一步，公众数字素养的提升、行业自律的强化同样关键。随着更多实证数据的积累，这场技术与人文的博弈必将走向更精细化的平衡。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。