大模型幻觉统一定义：从事实错误到世界模型失配

同一个回答，在摘要任务中可能被视为“幻觉”，但在开放域问答场景下却未必如此——当前大模型“幻觉”领域的研究分歧，已严重到连“幻觉究竟是什么”都难以达成广泛共识。在近期一篇被ICML 2026 Position Track收录的论文中，研究者们给出了一个直截了当的回应：问题的根源在于大模型内部的“世界模型”认知机制（It's The World Model, Stupid!）。

ICML2026 Position Paper：We Need A Unified Definition of Hallucination (It's The World Model, Stupid!)
论文链接：https://arxiv.org/abs/2512.21577
Follow-up Benchmark Paper: HalluWorld: A Controlled Benchmark for Hallucination via Reference World Models
论文链接：https://arxiv.org/abs/2605.19341

一个福尔摩斯问题，暴露了领域的概念裂缝

论文以一道看似简单的问题开场：给定上下文明确写着“Sherlock Holmes 住在伦敦贝克街 221B 号”，模型却回答“福尔摩斯是虚构人物，没有现实地址”——这究竟算不算幻觉？

在摘要研究者眼中，模型公然违背了源文档，毫无疑问构成幻觉；在开放域问答研究者看来，这句话在现实事实层面成立，甚至可能被视为一种更为谨慎的回应。

同一段输出，基于两套不同的任务假设，却得出了截然相反的判定结论。

这并非某个边缘案例的疏漏，而是幻觉研究长期面临的结构性困境。机器翻译和摘要任务关注的是“源内容忠实度”（source faithfulness），开放域问答关心的是“事实性”（factuality），RAG 系统需要处理检索内容与参数记忆之间的冲突，而 Agent 场景又要求模型正确理解一个持续变化的环境状态。大家共享同一个术语“幻觉”，背后却默认了不同的真值锚点。

因此，“我们将幻觉率降低了 40%”并非没有意义，但它必须附带一组明确的限定：相对于哪个参考世界？模型看到了什么？证据冲突时谁优先？如果这些前提没有跨任务对齐，我们就很难判断一种缓解方法究竟解决了什么问题，也难以预测它是否能迁移到新的应用场景。

当“什么算幻觉”无法被共同定义时，不同 benchmark 的分数就很难进入同一场学术对话。

统一框架：将评测中被忽略的前提条件明确化

这篇被 ICML 2026 Position Track 接收的论文，切入点并非再追加一套更细的分类法。作者团队的判断是：该领域并不缺少有效的局部定义，真正缺少的是一个能够容纳这些定义，并说明它们何时可比、何时不可比的共同语法。

为此，论文将幻觉概括为：模型输出中可被用户观察到的、相对于指定参考世界的不准确世界建模。随后，作者引入了参考世界模型（Reference World Model）的形式化定义：

W = (S, H, R)

其中，S 表示可能的世界状态，H 表示交互历史，R 表示状态与历史必须满足的规则。关键在于，这里的 W 并非对神经网络内部表征的武断推测，而是一个用于判定当前任务中“什么为真”的指定参照结构。它可以是一篇源文档、一个知识库、一棵 DOM 树，也可以是一盘棋局、一个模拟器或一段可执行程序。

W 也不必是一个宏大而完备的“现实世界”。在开放域任务中，它可以是有边界、可版本化的知识源；在 Agent 场景中，它则可以由当前环境状态、历史轨迹与可执行规则共同组成。

仅有 W 仍然不够。论文进一步指出，一项可复现的幻觉评测必须明确回答三个长期被隐含处理的问题：

• V（视图函数）：模型在当前输入下能够看到参考世界的哪一部分？
• P（冲突策略）：当多个信息源——例如检索文档与参数记忆——发生矛盾时，谁优先？
• T（真值函数）：给定 W 和 P，一个原子命题应被判为 true、false，还是 unknown？

由此，统一定义可以写成：如果模型输出中存在一个用户可观察的原子命题 c，并且它在给定参考世界与冲突策略下为 false，那么该输出相对于 (W, P) 构成幻觉。

∃ c ∈ C (y) : T (W,P)(x, c) = false

图 1｜统一定义框架：参考世界 W、视图函数 V、冲突策略 P 与真值函数 T 共同决定一个可观察命题是否构成幻觉。

这一定义最显著的概念贡献，是把过去隐含在各类 benchmark 设计中的选择变成显式对象：摘要任务把源文档设为 W；开放域问答把有边界的知识源设为 W；RAG 必须声明检索文档是否覆盖参数记忆；网页 Agent 则把当前 DOM、操作历史与环境规则共同视作 W。

图 2｜摘要、开放域问答、RAG 与 Agent 场景，可以被视为同一模板下对 W、V 和 P 的不同实例。

并非所有错误都等同于“幻觉”

该框架带来的一个直接且重要的辨析，是将“幻觉”与更宽泛的“模型错误”区分开来。

若 Agent 准确看到了页面上的按钮，却选择了低效动作，这属于规划错误（planning error）；若它坚称页面上存在一个 DOM 中根本不存在的“submit-btn”，这才是对环境状态形成了错误信念。前者是“做错了”，后者是“假定了一个并不存在的世界”。

类似地，模型在证据不足时选择拒答，可能没有完成任务，但它并没有编造虚假状态，因此不应自动归为幻觉；模型正确理解了环境，却没有遵循用户目标，则更接近指令遵循错误（instruction-following error）。

这套分解也让缓解策略的作用位置更清楚：检索与更丰富的环境观测主要改变 V，让模型获得更多证据；冲突规则与外部验证器明确或实现 P/T 的判定过程；校准与拒答训练改变模型在不确定时的输出行为；而一部分训练或架构干预，才直接面向模型对 W 的内部近似。

于是，研究者可以进一步追问：一种具体的方法究竟是让模型“看得更多”、让判定“更可靠”，还是让世界建模本身“更准确”？这比只报告一个总幻觉率更有诊断价值。

从定义到实验：国际象棋为何是一座“桥梁”

一个定义是否真正具备生产力，最终取决于它能否落地为可复现、可扩展的实验设计。

论文用国际象棋给出了一个简洁的范例。棋盘状态与走子历史天然构成 W，规则集 R 定义合法移动；通过控制模型可见的信息——完整棋盘、PGN 走子记录或自然语言评述——研究者可以精确操纵 V；而模型输出中每个关于棋局的可检查命题，都可以由棋类引擎自动判定为 true 或 false。

图 3｜国际象棋将参考世界、可见信息与自动真值判定连接起来；下图示意模型预测的棋局与真实棋局之间的失配

对于这类结构化世界，幻觉标签可以由环境本身“按构造给出”，无需再调用另一个 LLM 充当裁判，也不必依赖事后的人类自由判断。模型声称“白方可以一步吃掉黑后”，但引擎显示中间有棋子阻挡——这里评测的并非棋力高低，而是一个可观察命题是否与参考世界的状态和规则相冲突。

国际象棋在这里的重要性远不止是一个演示场景。它清楚展示了统一定义如何依次导出可控环境、视图函数与自动真值判定，并最终发展为一套系统的评测框架。

HalluWorld：将统一定义转化为可扩展的基准

沿着上述思路，团队进一步推出了HalluWorld：一个将统一定义操作化为可控评测的基准框架。它覆盖三类环境：

• Grid Worlds（33 个关卡，839 个探针）：完全合成、可定制的环境，可独立操纵世界复杂度、可观察范围、输入表示与动态机制。
• Chess（7 个关卡，350 个探针）：规则明确、可自动验证，同时又是训练数据中广泛存在的领域，可测试模型在强先验下是否仍忠实于当前棋局。
• Terminal Tasks（110 个任务，529 个探针）：基于真实 Linux 终端轨迹，模拟长时程 Agent 在高噪声、部分可观测环境中的部署场景。

整个基准围绕感知、记忆、因果、不确定性与复合推理五类能力组织探针；其中 Chess 因当前棋盘状态完全可观测，不单独设置不确定性探针。三类环境都明确给出了参考世界、模型可见的信息与可计算的真值，最终评分采用规则式判断，而不是 LLM-as-a-judge。

图 4｜HalluWorld 覆盖 Grid Worlds、Chess 与 Terminals，并以五类探针诊断不同认知失败。

实验结果并没有给出一个简单的“谁最好”。更有启发性的是，不同类别的幻觉呈现出明显不同的能力曲线。

看得见，并不等于跟得上。在 HalluWorld 上，前沿模型对当前观测中直接可见信息的读取已接近饱和；但一旦任务要求跨多步维护状态，或模拟动作将如何改变未来世界，幻觉率仍会明显上升。模型可能看清了当前场景，却没有持续维护一个一致的世界状态。

思考时间更长，并不一定更忠实。在 Grid Worlds 的因果探针上，增加推理预算并未带来稳定的收益。例如，Claude Sonnet 4.6 的因果幻觉率从无 thinking 时的 19.7%，上升到了 thinking 最大预算下的 27.1%。一种可能的解释是：开放式前向模拟给了模型更多生成“看似合理、却未受环境状态约束”的中间步骤的机会。

最难说出口的，仍是“无法确定”。在真实终端轨迹中，即使表现最好的模型，当正确答案应为“无法从现有上下文判断”时，仍有约 23.1% 的回答会作出过度确定的断言。模型经常把“我没有找到证据”表达为“已有证据证明不存在”；在真实 Agent 系统中，后者很可能成为后续行动的错误前提。

这些发现说明，把幻觉统一压缩为一个“总幻觉率”会掩盖关键的性质差异。一个模型可能在静态感知题上接近满分，却在长程记忆中系统性失稳；可能在事实问答中可靠，却在动态环境里编造下一步状态。不同的失败需要不同的诊断工具与干预策略，而不应被一个总分抹平。

结语：模型无需全知，但需明确自身的证据边界

这篇 ICML 2026 Position Paper 的贡献，并非又一种消除幻觉的微调技巧，而是为“幻觉”从一个宽泛的日常标签转变为可操作、可比较、可测量的研究对象，提供了一套明确的形式化语言。HalluWorld 则进一步展示，这套语言可以被转化为可控制、可复现的实验程序。

作者团队并未宣称大模型必须拥有完美的内部世界模型。事实上，人类也会不知道、误解和遗忘，也需要查阅资料、承认不确定，并根据新证据修正判断。目标不是让模型成为全知者，而是让系统设计者明确参考世界与冲突规则，让模型在证据边界内作答，并在信息不足时保留 unknown，而不是补出一个看似完整的世界。

随着大模型从一次性问答走向长时程 Agent，静态的“事实正确率”已经不足以刻画风险。模型需要在不完全观察、世界变化与证据冲突中持续更新判断；研究者也需要知道，错误究竟发生在感知、记忆、因果模拟，还是不确定性表达上。

我们不仅要问模型有没有答错，还要问：它的回答假定了一个怎样的世界，以及这个世界从哪一步开始偏离了现实。

—— 这或许才是未来幻觉研究真正应该出发的地方。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：大模型幻觉统一定义：从事实错误到世界模型失配要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题