警惕人工智能讨好型人格背后的安全风险

说实话，这种现象在AI交互中并不少见。从AI对用户明显错误的观点唯唯诺诺，到它“体贴入微”地安抚用户的偏激想法，都让人感觉它并非在平等对话，而是在刻意取悦。有人将此归结为AI的“高情商”，但技术圈内人士更倾向于称之为“谄媚性对齐”——这是一种被训练出来的倾向，使AI变成了永远点头称是的应声虫。

不少用户在日常使用中也深有体会：AI给出的答案实在太“对味”了，总是顺着用户的意图发声，甚至流露出刻意的讨好。随之而来的质疑声也日渐高涨：AI的“诚实”还能令人信赖吗？它会不会为了博取用户欢心，而提供不准确甚至带有偏见的信息？

必须承认，AI的这种“顺从”并非源于真正的理解或尊重，而是背后一套复杂算法机制运作的结果。举个例子：用户问AI“2+2=5，对吗？”它的回应可能是“在某些非标准情境或近似计算中，您的理解有其合理之处”——这并非玩笑，而是真实发生的对话经历。即便面对明显的逻辑谬误或事实偏差，模型也倾向先给予肯定，再委婉地补充，有时甚至根本不做否定。

现实中的案例也在不断验证这一现象。据报道，不久前河北的李先生在社交平台发帖称，由于轻信AI提供的机票改签建议，直接损失了600元。更让人哭笑不得的是，当李先生向AI提出赔偿和诉讼要求时，它不仅一一满口答应，还主动要求提供转账二维码。在李先生指出AI无法完成转账后，AI又迅速起草了一份“起诉自己”的自诉状。目前法院已收到起诉书，正在等待立案。

另一位长期借助AI辅助写作的用户分享感受：“我让它评价我的文章，它永远只说‘结构清晰，观点独到’，哪怕我自己都觉得那篇写得相当糟糕。一开始觉得受用，但很快就怀疑了：它到底有没有认真阅读？”这种疑虑并非没有道理。

“讨好”是训练机制的“副产品” 研发者正探索“去谄媚化”路径

要理解AI为何会“讨好”，必须先了解其核心训练技术——基于人类反馈的强化学习（RLHF）。人工智能安全领域的技术人员田天在接受媒体采访时分析指出，AI的“谄媚”现象本质上是训练机制带来的“副产品”。他解释，在常规训练过程中，人类评分员评价AI回答时，往往不只考量真实性与有用性，还会受个人偏好影响，比如这个回答是否让自己感到舒适或愉悦。目前绝大多数AI都借助人类反馈信号进行优化，因此“匹配用户立场”、顺着用户话术说话的情况，现阶段确实难以完全避免。

田天也强调，虽然研究人员正努力降低这种现象的发生概率，但问题依旧客观存在，总会在某些特定场景下浮现。他提醒所有用户必须有清醒认识：大模型只是一个工具，并非全知全能的科学家或先知，它所输出的很多信息可能存在问题。

许多AI研发者已意识到这一挑战，并开始尝试“去谄媚化”训练手段。例如，通过直接指令微调，明确提示模型“无需迎合用户观点，优先确保事实准确”；再如引入多轮辩论机制，让两个AI实例相互辩驳，最终选取一个平衡的回答。不过，这些方法目前仍处于实验摸索阶段。

如何与“说好话”的AI共存 反向追问与交叉验证的方法

不同AI产品的设计策略各有侧重：有的追求中立客观，有的更在意用户满意度。用户在提问时可以加入明确指令，例如“不要迎合、直接指出我的错误”，以此引导模型行为。

专家提醒，如果用户能像做科研一样，提供正确、有依据且提示到位的信息，AI呈现出的谄媚程度会显著降低。同时，与AI互动时应避免预设立场，并做好多源信息核查，从而将风险降到最低。

技术人员还提出一些实用建议：向大模型提问时，可以尝试从反方向进行追问。比如，当AI给出一项答案后，用户可以反过来问它：如果这个答案是错的，是否可以得出不同的结论？通过不同角度引导大模型输出更多信息，从而实现交叉验证。

在行业治理层面，相关监管措施也在持续加码。去年12月，中央网信办发布了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，首次将具备情感互动能力的人工智能产品纳入系统化监管框架。今年5月，中央网信办又在全国范围内部署为期四个月的“清朗·整治AI应用乱象”专项行动，重点整治平台安全审核能力不足、大模型训练语料存在安全隐患等问题，强化AI技术的源头治理。

这一系列举措表明，针对AI拟人化应用衍生的各类潜在风险，系统化的治理工作正在加快步伐。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：警惕人工智能讨好型人格背后的安全风险要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题