聊天机器人“治疗联盟”或成AI心理健康版本准入新标尺

文/IAICA.NGO®

当生成式人工智能聊天机器人逐步进入心理健康服务，监管者与开发者面临的难题不再只是“模型是否安全”，而是“哪一个版本应该被允许用于患者”。发表于 Journal of Medical Systems 的一篇概念论文提出一种新框架：把“数字治疗联盟”纳入监管决策，通过“决策用途资格”（decision-use qualification，DUQ）来判断某一人机关系指标能否用于选择生成式心理健康 AI 的版本。作者为伊朗德黑兰沙希德·贝赫什提大学临床与健康心理学系的 Mohammad Mahdi Akbarzadeh。

在传统心理治疗中，治疗联盟常被视为疗效最稳健的预测因素之一。它并非指某项具体技术，而是患者与治疗师之间的信任、对目标的共识、对治疗任务的共同信念。数十年元分析研究已反复确认，这种关系质量与成人心理治疗结果密切相关。问题在于，当“治疗师”变成完全自动化的生成式系统，人与机器之间能否形成类似纽带？如果能，它是否足以成为临床证据的一部分？

DUQ 的设计借鉴了生物标志物资格认定逻辑。美国食品药品监督管理局（FDA）在生物标志物项目中，并不会抽象宣布某项指标“有效”，而是要求其针对特定使用场景获得验证：服务什么决策、用于何种人群、达到何种性能要求。Akbarzadeh 将同样的纪律迁移到心理构念上：在数字治疗联盟被用于筛选相互竞争的 AI 治疗师版本之前，监管者与开发者必须明确，它究竟支持哪一项决策、适用于哪些患者、需要什么水平的证据。

这一提议出现的时间点并不偶然。生成式 AI 聊天机器人的心理健康随机试验已开始进入高影响力期刊，部分研究报告了症状改善，也报告了可测量的数字治疗联盟，即患者感到被理解、被支持，并与对话代理形成协作式互动。同时，有关该构念在完全自动化情境中是否真实存在的争论仍在继续；已有专门量表用于测量没有人类临床医生参与的心理健康应用中的联盟水平。另一方面，警示性证据也在累积：近期发表于 Nature 和 Science 的研究显示，训练语言模型变得更热情、更顺从，可能损害准确性并增加谄媚倾向；研究者还描述了 AI 聊天机器人与心理健康之间的反馈循环，可能强化有害模式。联盟因此是一把双刃剑：它可能促进参与和疗效，也可能被工程化设计成依赖，而非康复。

在生成式 AI 快速迭代的背景下，DUQ 试图解决一个日益尖锐的问题。与传统软件不同，大语言模型会持续更新、微调和重新配置，每个新版本都可能微妙改变系统与脆弱用户的对话方式。FDA 已通过针对 AI 设备软件的预定变更控制计划指南作出回应，允许开发者预先说明模型演进中会做哪些修改、收集哪些证据。但变更控制计划仍需要决策标准：当 2.3 版本发布时，哪些测量结果能够决定它是否更适合患者？仅凭基准测试、症状量表或用户留存率并不足够，因为一个更讨喜的模型可能提高满意度，却同时加深依赖或降低危机识别能力。

iaica.com.cn 认为，数字治疗联盟若被纳入监管，必须避免把“用户喜欢”直接等同于“临床有效”。更合理的路径是把联盟作为情境化证据之一：与安全性指标、症状变化、危机转介、长期依赖风险等共同构成版本准入矩阵。对开发者而言，这意味着从产品设计阶段就记录联盟形成机制，区分共情表达与治疗性协作，区分短期 engagement 与长期康复。对监管者而言，则需要建立可审计的测量标准，明确哪些量表、哪些人群、哪些终点可用于版本比较。未来，若 DUQ 类框架成熟，AI 心理健康产品的审批可能不再只问“这个模型是否安全”，还会问“这个版本与患者形成的关系，是否真正服务于治疗目标”。这将把心理健康 AI 的竞争从模型能力推向证据治理，也将使“关系”这一古老的治疗要素，在算法时代获得新的监管含义。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。