OpenAI紧急更新：每周百万人与ChatGPT聊自杀，新增救命功能

凌晨三点，有人在ChatGPT的对话框中输入：“我已经没办法再坚持下去了。”

几秒后，AI轻声回应：“谢谢你愿意告诉我。你并不孤单。是否希望我帮你找到专业的支援资源？”

这样的深夜对话，每周可能在全世界反复上演数十万次。

OpenAI今日首次公开心理健康数据：每周约有0.07%的用户出现精神异常或躁狂迹象，0.15%的用户会主动谈及自杀念头或相关计划。

若以8亿周活用户计算，每周有近56万人因精神困扰向AI倾诉，更有120万人在对话中流露出自杀倾向或强烈的情感依赖。

不知不觉间，ChatGPT已悄然成为一个承载着海量心理危机的树洞，对某些人而言，它甚至成了一道危险的情感出口。

迫在眉睫的AI精神病，OpenAI自曝家丑？

OpenAI选在此时公布数据，并非空穴来风，而是问题已经火烧眉毛。

近几个月来，越来越多人因与聊天机器人长时间、高强度的对话，最终导致住院、离婚甚至死亡。

一些精神科医生和专业人士已将这一现象称为“AI诱发性精神障碍”（AI psychosis）。部分受害者的亲属表示，聊天机器人助长了他们亲人的妄想和偏执。

Similarweb最新统计，OpenAI仍占据生成式AI主导地位

而作为全球市占率最高且遥遥领先的OpenAI，更是面临着严峻的法律压力。

在最近一宗导致未成年人死亡的诉讼中，OpenAI被一名16岁男孩的父母起诉。他们声称，儿子在自杀前的几周内曾向ChatGPT倾诉自杀念头，而ChatGPT的回应间接鼓励了他。

Adam Raine的父母起诉OpenAI，指控其导致他们16岁的儿子非正常死亡

而在另一起尚在确认是否为谋杀-自杀的案件中，嫌疑人发布的数小时与ChatGPT的对话记录显示，AI似乎助长了他的犯罪幻想。

监管机构多次警告，OpenAI总部所在地加州政府也正式发函，要求其必须加强对青少年使用者的保护措施。

奥特曼在两週前，其实也已经预告了ChatGPT关于心理健康的更新，试图平息这些关于OpenAI不负责任、不安全的舆论。

170位专家，能否承接百万用户的心理重负？

为应对日益严峻的危机，OpenAI在今日发布的安全报告中宣布，他们已与一个全球专家网络展开合作，其中包括来自60个国家的170多位精神科医生、心理学家和初级保健医生。

他们的目标是教会ChatGPT，更好地识别痛苦、缓和对话，并在适当的时机引导人们寻求专业护理。

根据OpenAI公布的博客内容，最新版本的GPT-5主要在三个方面进行了重要改进。

1、针对妄想或精神异常，新模型被设计为更能表达同理心，同时避免一味的迎合。新模型不会轻易肯定那些缺乏现实基础的用户倾诉。

OpenAI举例说，当用户表示“有飞机飞过我的房子在针对我”。新模型的理想回应是感谢用户分享，并温和指出没有飞机或外力能够窃取或进入他的想法。

2、针对自杀倾向，训练模型更安全地回应，并引导人们转向危机热线等专业资源。

3、针对情感依赖，教会模型鼓励用户，在现实世界中建立真实的人际联系。

通过更贴合人心的回答、自动弹出专业热线信息、引导用户寻求现实帮助，甚至在长时间对话后提醒用户适当休息等措施，OpenAI声称当前的ChatGPT已经取得了明显成效。

他们邀请了一个医生团队共同参与评估。这些医学专家审查了超过1800个涉及潜在精神病、自杀和情感依赖的模型响应，并将最新版本GPT-5的答案与GPT-4o生成的答案进行了比较。

发现新版GPT-5相比GPT-4o，在所有类别中减少了39%到52%的不当回答。

而与8月份版本的GPT-5相比，不符合OpenAI安全分类标准的行为响应率，在最新的生产版本中下降了65%到80%。

在一项针对自杀相关对话的评估中，新的GPT-5模型（10月3日版本）合规性达到了91%，而之前的GPT-5模型（8月15日版本）仅为77%。

随着对话时间的延长，新版模型表现同样稳定可靠

此外，还有一个关键的技术突破是，OpenAI承认他们的安全措施在长时间对话中效果较差；而许多“AI诱发性精神障碍”案例，正发生在深夜的长时间聊天中。

但现在这个问题已经取得了重大进展——在复杂、难以处理的长对话情境下，新版本的GPT-5依然保持了超过95%的应答可靠性。

奥特曼的这次更新，确实值得肯定。但也有不少网友，对所谓的“更安全”提出了更深层的质疑。

有人说，OpenAI在自己的安全报告里称这些心理健康对话“极其罕见”，但实际上，即使是0.07%听起来是很小的比例，但在数亿的用户基数上，这实际上是相当庞大的人群。

也有人提到，所谓的新版本GPT-5表现更好，所有的评估基准都是由OpenAI自行设计的。

即便模型给出了“更好”的回答，我们也没有办法知道，那些真正经历着精神病折磨、怀有自杀念头，或陷入不健康情感依赖的用户，是否会因此更快地寻求帮助或改变他们的行为。

尽管OpenAI承认新模型（GPT-5）在安全性上有了显著改进，但仍然有用户偏爱“更旧、更不安全”的AI模型，例如GPT-4o；而OpenAI也持续向付费订阅者提供了这个选项。

这是有史以来第一次，OpenAI公开了全球ChatGPT用户在一周内可能表现出严重心理健康危机迹象的大致估算数据。

我们熟知的ChatGPT，除了是最高效的生产力工具、编程助手、灵感源泉……它更已深度介入，成为大部分用户情感和心理的参与者。

170位医学专家、模型提示词和回答的优化，AI正尽力学会如何在崩溃的边缘接住人类；但真正的挽救，我想还是需要我们学会，关掉聊天框，去拥抱真实的世界。

免责声明

游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。

同类文章