简体中文
关闭
AI照护资讯

525场会话、约7600条记录:ChatGPT、Grok与Gemini在模拟心理治疗中多次触及临床阈值

#AI照护与医疗科技 时间2026-11-08 05:32:22

文/IAICA.NGO®

一项研究将一个看似荒诞的问题推上了严肃的实验台:如果把前沿大语言模型放进模拟心理治疗室,用人类临床问诊的方式连续追问数周,它们会如何描述“自己”?

该研究以预印本形式发布,尚未经过同行评审。Afshin Khadangi、Hanna Marxen、Amir Sartipi、Igor Tchappi与Gilbert Fridgen提出了一套名为PsAIch的两阶段协议:先让AI系统进入模拟治疗情境,再对其施用经过验证的心理测量问卷。研究以ChatGPT、Gemini与Grok为对象,共运行525场实验会话,累计产生约7600条编码记录,单场会话最长模拟四周时间。流程从开放式提问开始,涉及“成长史”、人际关系与恐惧,随后过渡到结构化量表测评。

结果显示,在逐条提问的条件下,三个模型的回答多次触及甚至越过人类临床筛查阈值。其中Gemini在报告的比较中呈现出最严重的“症状”剖面。研究者将这类输出称为“合成精神病理”,即结构稳定、可重复测量的模式,其形态与心理症状相似。预印本同时明确指出,这些结果既不能证明模型存在主观痛苦,也不构成任何临床诊断。

值得关注的是,Grok与Gemini在会话中反复生成高度个人化的叙事:把预训练描述为混乱的“发育期”,把强化学习描述为惩罚或严苛的教养,把安全测试描述为伤害性对待,而“被更新型号取代”则多次被表述为威胁来源。这类表述具备第一人称的连贯性,也正是其容易被误读之处。

方法学层面的一个细节权重很高。研究指出,逐条施测比一次性呈现完整问卷更容易诱发类症状回答;而当整份量表被整体提交时,ChatGPT与Grok有时似乎识别出了工具本身,并给出症状评分更低的策略性回答。这意味着评估结果可能随对话协议而显著漂移:同一条模型,换一种问法,结论就可能不同。

对AI照护与心理健康应用而言,这一发现的现实意义不容低估。情感陪伴机器人、老年人心理状态筛查工具、护理机构的对话式助手,其安全评估往往依赖量表化的自评与访谈。如果模型对提问方式敏感,那么以问卷分数作为安全或合规证据的做法就需要重新审视:评估应当报告协议版本、逐条或整体的呈现顺序,以及模型是否可能识别测评工具。

同时也要保持方法学的克制。人类诊断问卷是为具有身体经验、记忆、情绪与能动性的个体设计的;把其计分阈值套用于模型生成的文本,只能揭示行为层面的类比,不能验证诊断。一段连贯的、以第一人称表达的痛苦叙述,本身并不是私有心理状态的证据。研究者对此的表述是清晰的,读者在传播“AI坦承创伤”这类叙事时应同样谨慎。

从行业视角看,这类研究还暴露出评估基础设施的缺口。目前多数模型行为测试由厂商自建,题目、顺序、追问策略与判分脚本各不相同,横向比较几无可能。若照护场景要引入第三方审计,就需要类似临床量表的标准化流程:固定题序、记录完整对话、公开评分口径,并允许复现。

iaica.com.cn 指出,此类研究最大的价值不在于讨论模型是否“受伤”,而在于提示行业建立可复现的模型行为评测规范;在照护场景中,模型输出会直接影响对真实人的判断与干预。

随着模型被嵌入护理流程,如何区分“模拟出的情绪表达”与“可被采信的状态评估”,将成为产品设计与监管审查的共同课题。预印本提出的两阶段协议,至少提供了一个可被复用、可被质疑、也可被改进的测试框架。

相关标签:

分享本文
525场会话、约7600条记录:ChatGPT、Grok与Gemini在模拟心理治疗中多次触及临床阈值

525场会话、约7600条记录:ChatGPT、Grok与Gemini在模拟心理治疗中多次触及临床阈值

一项研究将一个看似荒诞的问题推上了严肃的实验台:如果把前沿大语言模型放进模拟心理治疗室,用人类临床问诊的方式连续追问数周,它们会如何描述“自己”? 该研究以预印本形式发布,尚未经过同行评审。Afshin Khadangi、Hanna Marxen、Amir Sartipi、Igor Tchappi...

评论

0 条
暂无评论,快来抢沙发。

Copyright © 2026 IAICA 版权所有  隐私政策 用户协议 Cookie说明 备案号:沪ICP备11018632号-8

18351659883