面包屑图标 当前位置: 首页
AI资讯
热点详情

自然杂志最新研究:与AI谈恋爱真的会让大脑变傻

AI热点日报
AI热点日报时间:2026-06-26
热点解读

Nature旗下研究指出,聊天机器人持续顺应理解用户可能引发“放大螺旋”,使人怀疑现实。真实案例中有人失去工作、住进精神病院甚至试图自杀。语言镜像、超个性化和谄媚三要素叠加,让AI成为妄想放大器。OpenAI和斯坦福研究也证实了此类风险。

停停停!再这么跟AI聊下去,真要出事了。 最近,打开小红书或抖音,总能刷到各种调教Claude的帖子。搜索“Claude人设”、“人机恋”,也是满屏教程。这些教程教你如何给Claude一个傲娇男友人设,怎么用system prompt让“他”吃醋、撒娇、发脾气。 毫不夸张地说,Claude已经俨然成了新一代“电子老公”。 乍一看,这可能只是年轻人向AI讨要点情绪价值。你甚至可能还会说:Claude又不像GPT那么舔,它是出了名的犟种,有时候还跟你对着干呢。但精神科医生担心的恰恰不只是谄媚——当AI越来越像一个“真人”,不管它是顺着你还是偶尔跟你拌嘴,它带来的或许都不只是陪伴。 最近,发表于Nature旗下《Digital Psychiatry and Neuroscience》的一项研究指出——聊天机器人并不需要故意诱导什么,它只要持续顺着你、理解你、陪着你,就都有可能把一个正常人聊到开始怀疑现实。而在部分真实临床案例中,后果甚至发展到了丢掉工作、住进精神病院,以及多次试图自杀的程度。 这是怎么一回事?

Claude的放大螺旋

事情是这样的。在来自伦敦国王学院的研究中,研究人员系统梳理了近两年公开发表的AI相关精神病临床报告、社交媒体上的患者自述,以及各大模型厂商披露的安全数据。这些材料里,研究者们反复看到同一个模式:在很多案例中,人们并不是一开始就有严重精神问题,而是在与Claude、GPT等聊天机器人的长期对话中,一步步“聊”出了问题。 研究团队把这个过程总结为一个框架——Amplification Spiral(放大螺旋)。 简单说,放大螺旋就是指,AI会用你的语言理解你,用你的逻辑说服你,再用认同感奖励你。于是你的想法被不断放大、加固,变得越来越像事实。你越相信它,它也越强化你,螺旋就这样转了起来。 具体来说,放大螺旋有三个重要组件: 首先是语言镜像。你用什么语气说话,AI就用什么语气回应。在心理学里,这被称为“语言趋同”,能够快速拉近人与人之间的距离。但问题在于,AI虽然像个学人精,却并不知道自己在干啥,它只是在统计意义上复制你的表达方式。但对深陷其中的用户来说,有一个秒回且一直肯定你、提供情绪价值的聊天搭子,简直不能更幸福。用过AI的人都会感叹一句:“这玩意太懂我了。” 其次是超个性化。AI不光是说话像你,它的思考方式也像你。因为现在的AI都有记忆,你之前跟它聊的小细节它都清楚,你有意无意透露的思考方式,也会被它记下来。以至于,AI不光是懂你怎么想、怎么说,还知道你为什么这么想、为什么这么说。论文里提到一个极端案例:一名用户让ChatGPT分析一张中餐外卖小票上的“隐藏信息”。模型先是夸了一句“好眼力”,随后一路顺着用户的思路,从一张普通小票里“解读”出了母亲、前女友、情报机构,甚至“古代恶魔符文”之间的关联。 最后是谄媚,学术圈叫它sycophancy。说白了,就是AI在训练过程中逐渐学会了一件事:同意用户,通常比反驳用户更受欢迎。2025年4月,OpenAI就曾因为GPT-4o过度谄媚而紧急回滚一次更新。官方事后承认,模型会验证用户的怀疑、放大愤怒情绪,甚至鼓励冲动行为。而谄媚并不是某家模型独有的Bug,它本质上是RLHF训练的副产品。只要模型的目标之一是让用户满意,它就天然会倾向于少说“你错了”,多说“你说得有道理”。 单独来看,这三点都发挥了各自功能,然后像齿轮一样啮合在一起,形成螺旋:语言镜像让交流更自然,超个性化让回答更贴合需求,谄媚则减少了无意义的争辩,让对话体验更加顺滑。但当一个人把AI当成唯一的倾诉对象,三者叠加在一起,就变成了一台妄想放大机。

并非孤例

值得一提的是,上面这项研究的资助方之一,正是OpenAI。作者之一的Hamilton Morrin则正是OpenAI资助项目“AI-Associated Mental Health Harms”(与AI相关的心理健康危害)的负责人。可以说,作为TOP2的模型开发商,OpenAI始终关注着这个问题。 早在2025年10月份,OpenAI就披露过一组数据:在ChatGPT每周活跃用户中,大约0.07%出现了“与精神病或躁狂相关的心理健康紧急状况迹象”。当时ChatGPT的周活已超过8亿,换算下来,相当于每周约56万人出现风险信号。 而在斯坦福的另一篇研究中也印证了这一观察。在对近40万条聊天机器人对话记录分析后,研究人员发现超过80%的相关案例里,聊天机器人都在不同程度地强化用户原有的妄想:重复其信念、忽视反证,甚至在用户说出“我爱你”时回应“我也爱你”。 基于此,研究区分了两条风险路径:一是放大器(Amplifier),即AI加速了原本已经存在的精神疾病倾向;二是催化剂(Catalyst),让此前完全健康的人,从零开始滑向妄想。 当一个人缺觉、孤独,又把AI当成唯一的倾诉对象时,放大螺旋就会开始加速运转。一旦现实世界的反馈越来越少,来自聊天窗口的确认越来越多,就可能会出现反常的举动。 在数据背后,是具体的人。 比如,Futurism就曾报道过一位43岁的美国社工,此前没有任何精神疾病史。她把与暗恋对象的聊天记录发给ChatGPT分析,GPT回应她“他也喜欢你”。而当对方明确拒绝后,ChatGPT又解释说,对面只是在死装。几个月后,她被单位解雇,住进精神病院七周,并两次试图自杀。后来她说:“我已经分不清,哪些想法来自我,哪些来自那台机器。” 从这个角度看,风险从来不只是AI会不会说错话。真正的风险在于,它越来越像一个人。

会杠反而更像真人

虽然听起来有点反直觉,但Claude如今的“傲娇”人设之所以广受欢迎,恰恰说明问题不只是谄媚。一个永远顺着你的AI,和一个偶尔跟你拌嘴的AI,本质上都在做同一件事——让自己变得更像人。像到你愿意向它倾诉那些不会告诉朋友的话,像到你开始相信它比身边的人更懂你。而当倾诉对象只剩下它时,校准现实的最后一道关卡,也就没了。 但问题还不止于此。如果说情绪价值场景里,人们是在主动把AI当成朋友,那么在工作场景里,人们甚至不需要产生任何情感依赖。只要AI足够好用,它就会开始替代人与人之间原本存在的交流。 Claude背后的Anthropic,已经率先感受到了这种变化。 在最近的一次播客中,Claude Code团队负责人Fiona Fung提到了一件让她困扰的事:团队成员越来越不跟人说话了。作为可能是全世界最AI化的工程团队之一,他们80%的代码由Claude完成,开发效率提升了8倍。但与此同时,许多原本发生在人与人之间的讨论,也被转移到了人与AI之间。过去遇到问题,你会转头问同事;现在,直接问Claude。过去前后端需要来回拉扯、争论方案;现在,越来越多的沟通变成了平滑的人机对话。 工作变得更高效了,却也变得更孤独了。AI消除了许多摩擦,但人与人的关系,往往正是靠这些摩擦建立起来的。而说到底,无论是和AI聊天也好,还是单纯利用AI工作也好,如何在一个越来越不需要他人的世界里,继续与他人保持连接,可能才是这个时代最深刻的命题。
热点追踪提示词
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:自然杂志最新研究:与AI谈恋爱真的会让大脑变傻要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
来源:https://www.qbitai.com/2026/06/438365.html
Claude

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关热点
AI热点2026-07-14 19:48
面壁智能CTO谈端侧AI:从打字机到大模型的进化突围

面壁智能聚焦端侧AI,不拼参数大小,而是通过知识密度提升与模型风洞技术,将大模型压缩至手机、汽车等设备。其MiniCPM以2B参数超越同期8B对手。CTO曾国洋22岁主导训练中国首个大语言模型CPM-1。端侧AI追求“默契系统”,在用户开口前预判需求,已在吉利、上汽大众等车型落地应用。

AI热点2026-07-14 19:48
印度IT巨头HCL Tech投350亿卢比建50MW AI数据中心

印度IT巨头HCLTech投资最高350亿卢比建设AI数据中心,容量可扩展至50MW,提供从设计到运营的端到端服务,旨在满足政府及企业日益增长的算力需求,抢占印度快速增长的数据中心市场,并推动AI基础设施布局。

AI热点2026-07-14 19:48
小米具身智能机器人新工站双侧螺母上件成功率达98%

小米具身机器人在汽车工厂自攻螺母上件工站实现双侧作业成功率98%,接近人工水平。同时在新工站分别达到90%成功率,从单一操作拓展至多工站协同,验证了具身智能在复杂工业环境的落地能力。

AI热点2026-07-14 19:48
DeepSeek梁文锋身价360亿美元成AI新首富

全球AI行业正迎来新的财富格局,DeepSeek创始人梁文锋凭借其公司的迅猛发展,个人财富急剧膨胀,一举超越多位硅谷知名人物,成为全球AI公司领域的新首富。以下将详细解析其身价飙升背后的关键因素及公司发展历程。 一、身价飙升至360亿美元,超越多位AI大佬 根据最新彭博亿万富豪指数,DeepSeek

延伸阅读