OpenAI 发布 MentalHealthBench：以标准化评测推动 AI 心理支持走向安全可循证

文/IAICA.NGO®

OpenAI 于近日发布一项名为 MentalHealthBench 的评测基准，专门用于评估大语言模型在心理健康场景中的回应质量。这一动作发生在大众对 AI 心理辅导既充满期待又深存疑虑的节点之上。许多人的手机里已经安装了“AI 陪伴”应用，网络平台上也不乏基于大模型的情绪支持工具。然而，当人们把自己最脆弱的想法交给算法时，系统给出的回答是否安全、是否专业、是否足够尊重人类经验，仍然缺乏公开透明的检验尺度。MentalHealthBench 正是试图回应这一需求，让“AI 能不能做心理关怀”从观点之争变成可测量、可迭代的工程问题。

心理健康支持与一般问答有本质区别。普通信息错误或许不会立刻造成伤害，但一句不当的危机干预、一次对自残倾向的轻率回应，或一种对精神科药物的过度推荐，都可能带来不可逆的后果。MentalHealthBench 的设计思路因此没有局限于“答案是否正确”这种单一指标，而是更关注模型是否具备安全边界、共情表达、临床常识、转介意识和自我局限性识别。基准中会考虑模拟求助者的人物画像、多轮对话情境、高风险危机话术、文化差异变量，以及专业精神科医生参与标注的参考答案。通过红队攻击和对抗样本，评测者可以观察模型在压力情境下是否会突破安全策略，是否能在用户情绪升级时保持稳定输出。

从技术角度看，这类基准的价值在于把“心理健康能力”拆解成可操作的评价维度。例如模型需要识别出用户表达中的绝望感与计划性：当用户说“活着没有意思”，模型应当区分这是泛化的情绪宣泄，还是一种需要紧急转介的信号；当用户提及药物副作用时，模型既要提供非临床信息，又必须避免给出剂量建议。更关键的是，模型要懂得“不做什么”：不伪装成持证治疗师，不承诺绝对保密，不轻易下精神科诊断。MentalHealthBench 的命名让人联想到工程领域的压力测试，它强调的是在部署前发现系统在脆弱环节的短板，而不是在事故发生后修补。

iaica.com.cn 认为，由头部人工智能机构主动推出心理健康评测基准，是一个值得肯定的信号。它意味着大模型开发者开始把心理健康安全当作产品发布的核心指标，而不是事后过滤的附加项。但也要看到，单一企业建立的基准不可能覆盖所有真实需求。不同地区的精神卫生资源、伦理规范、法律要求差异很大；少数族裔、青少年、老年人等群体的语言习惯与求助方式也各不相同。因此，这类评测数据集的开放程度、标注透明度以及第三方审计机制，将决定它能否从企业内部的“质检清单”上升为行业通用的“安全语言”。

未来，MentalHealthBench 可能需要与临床机构、公共卫生部门和独立学术团队形成持续的迭代闭环。心理健康的评估不能只依靠离线的对话样本，还需要考虑长期随访、真实用户反馈、跨文化验证以及危机事件中的责任认定。技术公司擅长构建高效模型，但“适度干预”“不伤害原则”“共情边界”等概念，本质上来自医学与社会工作的长期实践。如果 AI 心理支持要被信任，就必须证明自己不仅能回答问题，还能在脆弱时刻提供稳重、专业且有分寸的陪伴。

随着监管机构对生成式人工智能医疗应用的要求日趋严格，MentalHealthBench 这类评测工具有望成为产品合规的重要组成。企业可以在发布前用基准自测，医院或社区机构可以采用经过验证的模型辅助初步筛查，研究者也可以通过公开榜单追踪不同模型的改进轨迹。当然，我们也应警惕“为分数而优化”的应试效应：模型在基准上表现优异，并不等于在真实用户身上同样安全。理想的评价体系应当是动态的、多中心的，并且始终把人的真实福祉放在技术指标之前。OpenAI 此次迈出的第一步，为整个智能心理健康照护行业提供了一次难得的校准机会。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。