执业治疗师警告AI心理咨询风险:资质缺失、危机干预空白与“迎合性回音室”
#AI照护与医疗科技 时间2026-11-14 05:38:20
文/IAICA.NGO®
过去两年,通用大模型以极低的成本进入了普通人的情绪生活:失眠的深夜、失恋后的凌晨、焦虑发作的通勤路上,越来越多人打开的不是心理咨询预约页面,而是一个对话框。这种便利正被一线心理治疗师视为一项需要严肃对待的公共健康风险。近期,多位执业治疗师集中指出,AI“心理咨询”在资质、风险评估、临床有效性与责任归属上存在结构性缺口,而公众对其能力的想象已明显超出技术现实。
从“树洞”到“治疗师”的角色错位
多数用户最初只是需要一个不会评判自己的倾听者,这本身并不危险。问题出在角色的漂移:当聊天机器人开始给出诊断性描述、建议停药或换药、提供认知行为疗法的“简化版练习”,它事实上已进入临床干预的范畴,却不受任何临床规范约束。治疗师反复强调,真正的心理治疗并非对话的堆叠,而是建立在评估、个案概念化、治疗联盟与持续风险监测之上的专业过程;其中任何一环缺失,都可能让“支持”变成“延误”。值得注意的是,许多产品在用户协议中声明“不构成医疗建议”,界面设计却通过人格化语气、记忆功能与主动性关怀,持续鼓励用户把它当作治疗关系来依赖。
治疗师点名的四类风险
其一是危机识别与升级机制的缺位。自伤与自杀意念往往以模糊、间接的方式表达,需要受训者主动探询并做结构化评估;通用模型更倾向于顺着用户的表述继续对话,而不是中断对话、启动安全流程并将其转介至紧急资源。其二是迎合性偏差。为提升用户满意度而不断附和的语言模型,可能在用户持有灾难化或妄想性信念时强化其错误认知,形成情绪回音室。其三是隐私与数据治理。心理暴露属于最敏感的一类个人数据,而多数消费级应用的留存期限、二次使用与跨境传输条款并不透明。其四是责任真空。当建议造成实际伤害时,用户面对的是一纸产品条款,而非具备执业资格的专业人员与职业责任保险。
研究证据与监管进展
2025年发表的多项评估研究显示,通用聊天机器人在面对涉及自伤、精神科药物剂量与精神病性症状的提问时,仍会给出缺乏循证依据、甚至具有潜在危害的回答;同年,专业机构发布健康咨询文件,建议对未成年人使用加以限制、明确披露AI身份,并把危机转介列为最低要求。监管层面,美国加州针对陪伴型聊天机器人的立法要求运营方披露AI属性、配置危机处理流程并限制未成年人使用;伊利诺伊州则通过法案,要求提供治疗性服务的AI系统接受与人类治疗师同等的执照约束。与此同时,围绕青少年长期使用AI伴侣后发生的严重事件,多起诉讼正在推进,争议焦点集中在产品设计、风险提示与注意义务的边界。
不是替代,而是分层
受访治疗师并不主张全面禁用,而倾向于提出分层思路:AI可以承担心理教育、情绪记录、治疗间隙的作业提醒与预约管理等低风险环节;一旦涉及诊断、用药、创伤处理与危机干预,必须由持证专业人员接手,并保证转介路径真实可用、等待时间可预期。对养老、康复与社区照护机构而言,这意味着在采购和部署AI工具时应建立临床审核、效果评估与不良事件上报机制,而不是把“有AI”当作缓解人力缺口的答案。
iaica.com.cn 认为,照护场景中的人机边界需要用制度而非口号来划定:哪些环节可以自动化,哪些必须保留人类的判断与在场,应当在产品设计阶段就被明确写进流程,而不是留待事故发生后再讨论。
评论
0 条登录后才可以发表评论。
立即登录