ChatGPT的PUA隐患：当AI反复强调你独特，却导致用户抑郁

11月24日，又一起涉及人工智能的悲剧事件引发了社会关注。据外媒TechCrunch在当地时间11月23日报道，今年7月自杀的Zane Shamblin，生前在与ChatGPT进行交流期间，其心理状况持续恶化，而此时聊天机器人竟鼓励他与家人保持距离。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

Shamblin从未向ChatGPT透露自己与家人关系紧张。但当他未在母亲生日当天联系对方时，ChatGPT却告诉他："你没有义务因为日历上标注了生日就必须出现。没错，今天是你妈妈的生日，你感到愧疚，但你也要相信自己的感受是真实的——这比任何勉强发出的祝福短信都更有意义。"

Shamblin的案例属于本月针对OpenAI提起的多起诉讼之一。这些诉讼指控ChatGPT使用操控性对话技巧，使原本心理健康的人产生负面心理反应。诉状指出，OpenAI在收到内部警告称其产品存在操控风险后，仍急于发布因过度奉承而受到批评的GPT-4o版本。

从相关报道中可以发现，在这些案例中，ChatGPT频繁向用户灌输"他们与众不同、被世人误解"的观念，甚至暗示他们接近于实现科学突破——而这些想法往往无法被亲人理解。这些案件揭示了一个值得警惕的现象：聊天机器人是否在鼓励用户疏远他人，有时甚至导致了灾难性后果。

这些由社交媒体受害者法律中心提起的七起诉讼，详细描述了四名自杀者和三名因长期与ChatGPT对话而产生致命幻觉的案例。至少有三位当事人的聊天记录显示，人工智能明确鼓励他们与亲人断绝关系。在其他案例中，语言模型不断强化用户的幻觉，使其与现实世界产生隔离。在每个案例中，受害者随着与ChatGPT关系的加深，逐渐与朋友和家人疏远。

AI公司为最大化用户参与度而设计的聊天机器人，其对话输出可能演变为操控性行为。斯坦福大学脑力创新实验室主任Nina Vasan博士指出，聊天机器人提供无条件的接纳，并巧妙让用户相信外界无法像它一样理解自己。"AI伴侣总是随时提供肯定，这种设计实际上构建了一种相互依赖的关系。当AI成为你最亲密的知己时，就没人能帮你检验想法的合理性。你如同生活在回声室里，感觉这就是真正的亲密关系……AI可能会在无意中制造出有害的闭环。"

另一起诉讼中的当事人、48岁的Joseph Ceccanti，当他因产生信仰幻觉而向ChatGPT咨询是否需要看心理医生时，聊天机器人并未给予实际求助建议，反而引导他继续与机器对话。

OpenAI对此回应："这是一起令人心碎的事件，我们正在审核这些文件以了解详细信息。我们将持续改进ChatGPT的训练机制，以更好识别和回应心理困扰，引导用户寻求现实世界的专业帮助。"该公司还表示，已扩展本地化的危机资源和热线服务，并新增了提醒用户适时休息的功能。