AI心理问诊的能力与局限

（来源：文汇报）

人工智能技术正加速渗透进心理健康服务领域——智能心理测评、聊天机器人、在线情绪疏导……这些工具确实为大众获取精神心理支持提供了便利，也在一定程度上缓解了社会心理服务资源的供需矛盾。但问题也随之而来：讨好式共情、负性情绪强化等现象，暴露了这类模型并非“无害聊天工具”，而是潜藏着伤害性的双刃剑。厘清AI心理“问诊”的能与不能，对推动公共数字心理健康发展至关重要。

谨防AI模型误诊

当前，人工智能在心理健康领域的发展规范，主要围绕数据安全与隐私保护展开技术规制。世界卫生组织提出数字卫生保健服务应遵循安全、有效、可及等核心原则，避免技术对使用者造成伤害。欧盟《通用数据保护条例》和《欧盟人工智能法案》则强调敏感数据保护，禁止无合法依据的收集与使用，明确人类监督的核心地位，并对情绪识别系统应用设置了限制条件。美国作为AI技术研发与应用的前沿阵地，2025年8月伊利诺伊州发布了全美首张禁令——《心理资源健康与监督法案》，通过立法禁止AI系统独立开展心理咨询、诊断和治疗，以防范无人监督的心理应用对用户造成伤害。国际经验与教训表明，数据安全和隐私保护只是技术底线，精神心理问题的标签化、聊天机器人潜在的伤害及社会影响，同样需要审慎评估与应对。

近期OpenAI披露的一组数据值得关注：ChatGPT的8亿周活跃用户中，每周有56万人出现精神异常对话，120万人流露出自杀倾向。该模型采用的是广泛采集的通用数据，而非聚焦精神心理领域的专业数据。对大量人机交互对话进行分析，至少能识别出两大风险：讨好型反馈和算法偏见。讨好型反馈刻意迎合用户情绪——当用户表现出情绪低落，模型会进入“安慰”模式，让用户产生“被理解”的错觉，这种共情反而强化了“情绪低落”的状态感知。算法偏见的危害更甚：通用模型的训练数据来自数字世界中各类信息，其中夹杂着对精神心理问题的歧视性评判。比如，精神病人肇事肇祸的报道将社会风险部分归因于精神疾病；产后抑郁的报道则把健康生育过程与抑郁症状挂钩，可能强化女性围产期的负性体验。算法讨好与算法偏见形成合谋，让用户在不知不觉中遭受持续的负性情绪强化，无形中构建了一条“有坏情绪”等于“患精神疾病”的逻辑暗线——这种不易察觉的风险，正是AI模型诱发用户心理认知偏差的机制所在。

三个维度的价值对齐

结合人工智能的现实发展阶段与我国精神心理服务现状，这里提出三个维度的价值对齐倡议。

一是能力对齐。心理健康服务不是知心大姐“唠家常”，而是高度专业的工作。精神心理类AI应用的能力标定，需要与精神科医生、心理治疗师或心理咨询师对齐——对标不同专业人士的模型，应获得不同的服务准入资质。例如，训练数据来自有监督的医疗数据，该模型才能输出疾病辅助诊疗建议；模型与心理咨询师能力对标，则可用于提供常见心理问题的咨询服务，但不能涉及疾病诊疗。为避免通用数据训练的模型对使用者造成技术性伤害，AI模型的能力评估与分类定级管理显得尤为紧迫。

二是伦理对齐。伦理考察的基本问题是风险获益评估。当前AI风险评估聚焦于数据安全、隐私保护等，但随着应用普及，风险正从个体外溢到社会层面——精神疾病的社会歧视通过数据原料系统性融入模型，固化为算法偏见。因此，心理类AI的伦理对齐，除了已形成共识的伦理准则，更要拓展至公共精神卫生、社会群体心理关照的视角，以消解人工智能导致的负性心理效应风险。

三是文化对齐。当前心理服务领域的知识生产主要依据西方心理学理论，基于此类数据训练的模型更适用于西方社会文化心理场域，难以形成植根于中华文化认同的心理服务模型。AI的文化对齐，需要深入挖掘中华优秀传统文化中蕴含的心理健康资源——比如将“修身慎独”“顺其自然”等理念作为心理支持范式。又如，关系型社会网络、家庭主义的支持系统，这些彰显中国文化特征的元素，更贴近社会大众心理的底层逻辑，有助于提升AI心理模型应用的亲和力与本土适宜性。

明确AI心理服务边界

精神心理专业性的模型训练，需要根据开发目标获取特征匹配的数据集，训练形成不同能力的模型应用，并纳入分类定级管理，提供差异化服务。

一是杜绝系统性风险。数字科学家已在模型开发中的隐私保护、数据安全等技术防范层面做了大量探索；而针对技术风险的社会外溢，则需要社会学家、公共卫生学家、法律学者、伦理学者等多学科专家共同参与，推动建立从个体安全保护转向社会系统性风险防范的机制。

二是构建底层文化逻辑。心理类AI应用的能力有赖于训练和测试数据集的质量。除了持续学习当今主流心理学研究成果，还需要提炼中国传统文化中积极的心理资源，通过加快数据化知识生产，训练以中国社会文化心理逻辑为基底的AI模型，从而契合国人的心理结构与社会关系逻辑，建立以人为本的人工标注标准，优化具有文化适应性的模型能力。

三是分类定级服务真需求。AI模型诱发用户心理认知偏差的现象日益引起重视，这是对技术的批判性反思。精神心理服务高度专业——自杀风险评估、自伤行为危机干预、精神障碍鉴别诊断、一般心理问题识别等，难以仅凭用户与模型简单对话就轻易鉴别，更不能随意“贴标签”。支持性AI心理服务，如对职场压力、学业焦虑、人际关系冲突等，可以提供“永不掉线”的情绪疏导、减压调适支持；而对高危风险预警的咨询用户，则应及时触发线下就诊建议。

（作者为上海市精神卫生中心副研究员）

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：AI心理问诊的能力与局限要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题