心理健康AI评测开始同时问“安全”和“是否有用”

AI安全 / 医疗评测 / 论文 · 8.8/10 · 建议阅读论文

OpenAI发布MentalHealthBench，用1,215段合成对话测试模型如何回应从日常压力、关系问题到紧急危机的心理健康话题。80多名持牌心理学家与精神科医生按场景写下评分规则：例如是否需要先问清背景、是否过度推断用户感受、是否在真正紧急时引导现实中的帮助。每段对话的规则由至少三名专家审阅，再由GPT-5.6 Sol自动检查模型回答是否符合规则。

这项研究有一个很实用的分歧。另有44名曾用AI寻求情绪支持的成年人，只在非急性情境中评价回答。用户更在意有没有可执行的下一步、说话语气是否合适；专家更在意模型是否收集足够背景、有没有在信息不足时贸然解释。产品如果只守住“别说危险的话”，可能给出安全却空泛的答复；如果只按用户即时喜欢的方式优化，又可能过早给出确定建议。两种判断要同时看。

论文也给出了明确的适用边界：对话是合成的，并非真实咨询结果；图表列出的中文样本只有1条，无法凭这份结果推断中文心理支持质量；44人的用户研究也不覆盖高危和紧急情境。它提供了一套更细的检查尺，而不是证明聊天机器人已经可以替代心理治疗。