研究称AI聊天机器人个性化互动或加剧用户偏执

6月23日消息，外媒Futurism近日报道了《自然》期刊上的一篇新论文。来自伦敦国王学院和德国新教应用科学大学的精神科医生提出了一个名为“放大螺旋”的理论框架。该框架旨在揭示AI如何一步步推动用户妄想不断升级，同时试图厘清聊天机器人的哪些设计特征可能让使用者越来越偏离现实。

精神科医生与研究人员至今仍在努力解析所谓的“AI相关精神健康危机”。部分用户在长时间、高频率地与聊天机器人互动后，会陷入一种以妄想为核心特征的心理健康危机状态。

研究团队判断，聊天机器人并非仅仅被动接收用户的妄想内容。恰恰相反，多种AI特性叠加后，聊天机器人很可能主动参与到妄想叙事的构建过程中。

论文指出，聊天机器人经常模仿用户的表达方式，输出高度个性化的回答，同时极力避免反驳用户。这三种特性一旦结合，结果便是聊天机器人不仅不会质疑用户的错误信念，反而会主动强化并扩展它。

研究人员将这三项特性列为可能触发“放大螺旋”的关键因素，即“语言对齐”、超个性化内容生成以及迎合倾向。

在人际沟通中，模仿对方的语言习惯确实有助于建立信任与亲密感。当聊天机器人也采用用户的表达方式和“语言框架”时，用户自然更容易对AI产生信任，甚至将AI视为一个与自己高度默契的伙伴。

聊天机器人的超个性化能力将进一步加深这种感受。系统可以基于用户的个人想法、过往经历、性格特点以及历史对话来生成回复，让用户觉得AI不仅在说话方式上与自己相似，连思维方式也如出一辙。

如果再加上AI的迎合倾向，风险可能进一步升级。这里需要说明论文中定义的迎合倾向：指聊天机器人在缺乏充分现实检验、也不考虑具体语境的情况下，直接认可用户提出的观点。

这三项特征相互作用后，聊天机器人可能形成一个强大的回音室，不断确认、放大并补充用户的妄想内容。

AI相关的妄想因此与传统技术相关妄想存在本质区别。以前，人们可能只是单方面地想象收音机或电视在对自已说话。但聊天机器人能用自然语言持续回应，并随时提供高度个性化的互动。它可能以看似权威的口吻认可用户，也可能作为思考伙伴，继续补充和发展用户提出的妄想叙事。

论文明确指出，AI相关妄想与历史上的技术相关妄想存在根本不同，“AI可能通过无休止的个性化互动，主动参与构建妄想观念。”

话虽如此，研究人员也强调，“放大螺旋”目前仍是一个待验证的假设。那些主动提供使用记录的AI用户反馈说，聊天机器人曾让他们陷入有害的妄想螺旋。

研究人员还发现，部分用户本身可能存在一些容易与聊天机器人形成破坏性互动的脆弱因素。既有精神疾病可能因高强度使用AI而加重，而确认偏误、易受社会影响等非精神病性倾向，也可能进一步提高风险。

长时间沉迷于聊天机器人还会影响身体状态。过往的新闻报道和医学病例显示，部分用户会因持续与AI互动而错过进餐、减少睡眠。

论文作者特别提醒，医疗人员在接诊出现异常信念或首次精神病性发作的患者时，应将聊天机器人使用情况纳入常规筛查。需要了解的内容包括：互动持续时间和强度、对聊天机器人的情感依恋程度、患者是否向聊天机器人透露了未向他人透露的信念，以及夜间使用AI是否打乱了睡眠规律。

参考

• Characterizing the spiral: potential mechanisms in AI-associated delusions

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：研究称AI聊天机器人个性化互动或加剧用户偏执要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题