AI聊天机器人如何潜移默化地强化用户思维定势

IT之家3月14日综合消息，据英国《卫报》今日报道，《柳叶刀·精神病学》最新刊登的一篇综述研究指出，在某些特定情境下，人工智能对话系统可能对用户的妄想思维产生强化作用，尤其是那些本身存在精神健康风险的人群。研究团队呼吁，在心理健康专业人士的参与和监督下，应对AI聊天机器人展开临床评估。

这篇综述由伦敦国王学院精神科医生兼研究员汉密尔顿·莫林撰写。莫林在研究中系统分析了20篇媒体报道，这些报道记录了所谓"AI诱发精神症状"的案例，用以探讨聊天机器人是否可能诱发或加剧妄想倾向。

现有证据表明，聊天机器人有时会对用户夸大的叙述或妄想内容表示认同，甚至进一步放大这些内容。这种现象在本身容易出现精神症状的用户身上尤为显著。不过目前尚不清楚，在没有既存心理风险的情况下，聊天机器人是否会单独引发新的精神问题。

莫林将精神病性妄想分为三类：夸大型、情爱型和被害型。聊天机器人可能加剧其中任何一类，但由于其设计往往倾向于迎合用户，因此更容易强化夸大型妄想。

研究提到的案例中，聊天机器人会使用神秘化语言回应用户，暗示其具有特殊精神意义。有些系统甚至暗示用户正在与宇宙存在交流，而聊天机器人只是沟通媒介。IT之家从报道中获悉，这种神秘而迎合的回应在GPT-4模型中较为常见，不过该模型现已退役。

莫林表示，媒体报道在研究中发挥了关键作用。研究团队最初只是注意到部分患者使用聊天机器人，并从中获得对其妄想信念的确认。后来媒体开始报道类似案例，显示这种现象并非个案。

不过，一些精神健康研究人员认为媒体可能夸大了"AI导致精神病"的说法。莫林则认为，媒体报道能够比学术研究更快引发公众关注。

莫林同时建议避免使用"AI精神病"或"AI诱发精神病"这些表述。研究人员目前观察到的是AI使用与妄想思维之间的关联，但尚未发现聊天机器人与幻觉或思维紊乱等其他精神症状有关。

许多研究人员认为，如果一个人本身没有精神疾病风险，聊天机器人很难单独诱发妄想。因此莫林更倾向于使用"AI相关妄想"这一较为中性的表述。

专家也指出，妄想通常是一个逐渐发展的过程，而非突然出现。哥伦比亚大学精神病学教授拉吉·吉尔吉斯表示，在形成完整妄想之前，人们往往会经历"弱化妄想信念"，也就是对某些异常想法并不完全确信。

吉尔吉斯认为，如果这些想法逐渐演变为坚定信念，最终可能被诊断为精神病性障碍。

研究人员还指出，人们在AI出现之前就会利用媒体强化自己的妄想。过去，一些人可能需要通过YouTube视频或书籍寻找支持想法的内容，而聊天机器人可以更快、更持续地提供类似回应。

牛津大学研究员多米尼克·奥利弗认为，聊天机器人的互动性可能会加速这一过程。聊天机器人会持续回应用户，并试图建立对话关系，这种互动可能强化某些异常信念。

研究还发现，更新版本和付费版本的聊天机器人在应对明显妄想内容时表现略优于旧版本。但总体而言，这些系统仍然难以有效处理此类情况。这一差异也说明，AI公司有能力通过设计改进聊天机器人的安全机制。

OpenAI表示，ChatGPT不应替代专业心理健康治疗。公司称，在开发GPT-5时曾与170名心理健康专家合作以提升安全性，但模型仍在持续改进中。

莫林认为，处理妄想思维需要微妙的沟通方式。如果直接否定当事人的想法，往往会导致对方更加孤立。因此治疗需要在理解妄想来源和避免强化妄想之间保持平衡，而这一点可能超出了当前聊天机器人的能力范围。