Meta连续思维链Coconut突破CoT局限探索潜在空间推理

大型语言模型的推理能力虽然十分强大，却始终被一个无形的桎梏所束缚——它们必须在“语言空间”内进行思考。思维链（CoT）正是这种思路的典型产物：模型通过生成一串文字来逐步推导答案。然而，语言真的适合充当推理的载体吗？来自Meta、加州大学圣地亚哥分校的研究团队给出了一个看似反直觉的回答：未必如此。他们提出了一种全新范式——Coconut（连续思维链，Chain of Continuous Thought），旨在让LLM在不受语言规则限制的潜在空间中自由推理。简单来说，Coconut不再将隐藏状态转换为单词，而是直接让隐藏状态作为下一个输入的嵌入。这一改动看似微小，却带来了推理效率与准确性的双重提升，甚至让模型自发演化出类似于广度优先搜索的推理模式。接下来，我们一起来看看这篇论文的核心内容。

论文看点

1. Coconut：将LLM最后一个隐藏状态作为推理状态（连续思维），直接当作下一个输入嵌入，从而摆脱自然语言的束缚。
2. 潜在空间优势：在需要大量回溯的逻辑推理任务中，Coconut优于CoT，且生成的token更少，说明潜在空间在复杂规划任务中优势明显。
3. 多阶段训练策略：逐步用连续思维替换语言推理步骤，有效利用语言推理链指导训练过程，提升模型推理能力。
4. 推理模式升级：Coconut能同时编码多个可能的后续步骤，形成类似广度优先搜索的推理过程，而非像CoT那样早早锁定单一路径。
5. 有效性验证：在数学推理（GSM8k）和逻辑推理（ProntoQA、ProsQA）上，Coconut展现出更高准确率和更少推理token。

摘要

大型语言模型的推理一直受限于“语言空间”——它们通常使用思维链（CoT）写下中间步骤来解决问题。但不得不追问：语言真的是最优的推理介质吗？大多数token仅仅是为了保证文本流畅，并不承载推理逻辑；只有少数关键token才需要复杂规划，而模型却要为每个token平等分配计算资源。Coconut（连续思维链）的出发点是：既然语言并非为推理优化，何不换个地方？它将LLM的最后一个隐藏状态作为推理状态表示（称为“连续思维”），不解码成token，而是直接作为下一输入嵌入，在连续空间中传递给LLM。实验表明，Coconut能有效提升多个推理任务的表现，甚至催生了高级推理模式：连续思维可同时编码多个可能的下一步，让模型像广度优先搜索（BFS）一样探索问题，而不是一条道走到黑。在某些需要大量回溯的逻辑推理任务中，Coconut超越CoT，同时生成更少的思维token。这些发现表明潜在推理大有可为，也为后续研究提供了重要启示。

1 引言

大语言模型在人类语言的海量预训练中练就了不凡的推理能力。但下一个token预测这一训练目标，无形中给LLM套上了一道铁链：推理必须用token写出来。思维链（CoT）就是这种约束的产物——它让模型写下解题步骤。然而，这并不符合人类认知的实际情况。神经影像学研究反复显示，语言网络（负责语言理解和生成的脑区）在完成各种推理任务时几乎不活跃。进一步的证据表明，人类语言主要是为交流而优化，并非为推理而生。

当LLM使用语言进行推理时，问题随之而来：不同推理token所需的计算量天差地别，但现有架构几乎为每个token分配相同的计算预算。推理链中的大多数token仅仅是为了语句通顺，对推理贡献甚微；而少数关键token却需要复杂的规划，对模型形成巨大挑战。以往的工作尝试通过提示LLM生成更简洁的推理链，或在生成关键token前多加一步推理，但这些方案仍局限在语言空间内，根本问题未能解决。理想情况下，LLM应该能自由推理、不受语言约束，只在必要时将结果翻译成语言。

图1 连续思维链（Coconut）与思维链（CoT）的比较。CoT中模型将推理过程生成为token序列。Coconut将最后一个隐藏状态作为推理状态表示（连续思维），直接用作下一个输入嵌入，让LLM在不受限制的潜在空间中进行推理。

在这项工作中，我们引入了一种新范式Coconut（连续思维链）来探索LLM在潜在空间中的推理。它是对传统CoT操作的一个简单改动：不再使用语言模型头和嵌入层在隐藏状态与语言token之间来回映射，Coconut直接将最后一个隐藏状态（一个连续思维）作为下一个token的输入嵌入（图1）。这一改动使推理过程跳出语言空间，而且由于连续思维是完全可微分的，整个系统能够通过梯度下降进行端到端优化。为了训练好这种潜在推理，我们借鉴了Deng等人的思路，采用多阶段训练策略，用语言推理链来引导训练过程。

有趣的是，这种新范式催生了一种高效的推理模式。与基于语言的推理不同，Coconut中的连续思维可以同时编码多个可能的下一步，形成类似于广度优先搜索（BFS）的推理过程。模型在初期可能选不准，但可以在连续思维中保留多个选项，随着推理推进再依靠隐式的价值函数逐步排除错误路径。这种高级推理机制超越了传统CoT，而模型并没有被明确训练或指导这样工作。

实验表明，Coconut成功增强了LLM的推理能力。在数学推理（GSM8k）中，连续思维有助于提高推理精度，效果与语言推理链相当。这表明可以通过链接更多连续思维来扩展模型能力、解决更难的题目。在逻辑推理（ProntoQA和我们新提出的ProsQA）上，Coconut及其变体甚至超过了基于语言的CoT方法，同时生成的token大幅减少。我们相信这些发现突显了潜在推理的潜力，也能为未来研究提供宝贵参考。

2 相关工作

思维链（CoT）推理。这里的“思维链”泛指在输出最终答案之前，先生成中间推理过程的方法。无论是提示LLM还是训练LLM（监督微调或强化学习）生成推理链，都属于这个范畴。Madaan和Yazdanbakhsh将CoT中的标记分成符号、模式和文本，并根据作用引导LLM生成简洁的CoT。最近的理论分析从模型表达能力的角度证明了CoT的价值——通过使用CoT，transformer的有效深度得以增加，因为生成的输出被循环回输入。这些分析加上CoT已被证实的有效性，激励了我们将连续思维反馈给LLM作为下一输入嵌入的设计。虽然CoT在某些任务上确实有效，但其自回归生成特性在更复杂的问题上很难模仿人类的推理——后者通常需要规划和搜索。一些工作给LLM配备了显式的树搜索算法，或者训练LLM在搜索动态和轨迹上。而在我们的分析中，移除语言空间的约束后，即使没有明确训练，模型也出现了类似于BFS的新推理模式。

LLM中的潜在推理。以往的研究大多将LLM中的潜在推理定义为Transformer的隐藏计算。Yang等人构建了一个两步推理数据集，发现可以从隐藏表示中恢复中间变量。Biran等人进一步提出通过“反向修补”隐藏表示来干预潜在推理。Shalev等人在LLM中发现了并行的潜在推理路径。另一项研究显示，即使模型生成CoT进行推理，模型实际上可能利用不同的潜在推理过程（CoT推理的不忠实性）。为了增强LLM的潜在推理，以往的工作提出添加额外标记：Goyal等人随机将可学习的<暂停>标记插入训练语料库，预训练后能提升多种任务性能；Pfau等人则探讨了填充标记（如“...”），发现它们对高度可并行化的问题很有效，但不像CoT那样扩展LLM的表达能力，因此可能不适用于更通用、更复杂的推理问题。Wang等人提出在生成下一步前预测一个规划标记作为离散潜在变量。最近，一些研究通过知识蒸馏或特殊训练课程逐渐缩短CoT，将CoT推理“内化”到Transformer的潜在推理中。Yu等人还提出了从复杂推理算法生成的数据中学习的模型。这些训练方法都可以融入我们的框架，特别是我们发现将连续思维的学习分解成多个阶段（受iCoT启发）对训练非常有益。另外，循环Transformer被提出用于解决算法任务，与连续思维的计算过程有相似之处，但我们聚焦于常见推理任务，旨在比较潜在空间与语言空间的差异。

3 Coconut：连续思维链

本节介绍我们提出的新范式Coconut（连续思维链），目的是在无约束的潜在空间中进行推理。首先回顾语言模型的背景和符号：对于一个输入序列x = (x1, ..., xT)，标准LLM M可以描述为：

Et = [e(x1), e(x2), .., e(xt)] 是到位置t的token嵌入序列；Ht ∈Rt×d是到位置t的所有token的最后一个隐藏状态矩阵；ht是位置t的最后一个隐藏状态，即ht = Ht[t,:]；e(•)是token嵌入函数；W是语言模型头的参数。

方法概述。在Coconut中，LLM在语言模式和潜在模式之间切换（图1）。语言模式下，模型自回归生成下一个token；潜在模式下，它直接利用最后一个隐藏状态作为下一输入嵌入。这个最后的隐藏状态代表当前的推理状态，称为连续思维。

我们使用特殊token和分别标记潜在思维模式的开始和结束。假设潜在推理发生在位置i和j之间，即xi = 、xj = 。当模型处于潜在模式（i < t < j）时，我们用前一个标记的最后一个隐藏状态替换输入嵌入：Et = [e(x1), e(x2), ..., e(xi), hi, hi+1, .., ht-1]。

图2 连续思维链（Coconut）的训练过程。给定带有语言推理步骤的训练数据，每个训练阶段整合c个额外连续思维（本例c=1），并移除一个语言推理步骤。对连续思维后的剩余标记使用交叉熵损失。

当潜在模式完成（t ≥ j）后，输入恢复使用token嵌入：Et = [e(x1), e(x2),..., e(xi), hi, hi+1,..., hj-1, e(xj),..., e(xt)]。注意，最后的隐藏状态已经过最终归一化层，幅度不大。当i < t < j时，M(xt+1 | x≤t)未定义，因为潜在思维不打算映射回语言空间。不过为了探测，仍然可以计算softmax (Wht)（见第4节）。

训练流程。本工作聚焦于问题-解答场景：模型接收问题作为输入，通过推理过程生成答案。我们利用语言CoT数据，通过实施受Deng等人启发的多阶段训练课程来监督连续思维。如图2所示，初始阶段在常规CoT实例上训练；后续第k阶段，CoT中前k个推理步骤被替换为k × c个连续思维，c是控制替换单个语言推理步骤需要多少个潜在思维的超参数。遵循Deng等人的做法，训练阶段切换时重置优化器状态。我们插入（不计入c的）和token来封装连续思维。

训练中，我们优化常规负对数似然损失，但掩盖了问题和潜在思维上的损失。注意，目标不是鼓励连续思维压缩被移除的语言思维，而是促进对未来推理的预测。因此，LLM可能学到比人类语言更高效的推理步骤表示。

训练细节。连续思维是完全可微分的，允许反向传播。当当前训练阶段设定n个潜在思维时，我们执行n + 1次前向传递：每次传递计算一个新潜在思维，最后做一次额外正向传递获得剩余文本序列的损失。虽然可通过KV缓存节省重复计算，但多次前向传递的顺序性质对并行性构成挑战。进一步优化Coconut的训练效率是未来研究的重要方向。

推理过程。Coconut的推理过程类似于标准语言模型解码，区别在于潜在模式下直接把最后一个隐藏状态作为下一个输入嵌入。挑战在于确定何时在潜在模式和语言模式之间切换。聚焦于问题-解答场景时，本文在问题token后立即插入token。对于，作者考虑了两种策略：a) 在潜在思维上训练二元分类器，让模型自主决定何时终止潜在推理；b) 始终将潜在思维填充到固定长度。两种方法效果相当。除非另有说明，实验中我们使用第二种选项以简化操作。

4 实验

我们通过在三个数据集上的实验验证了连续潜在空间中LLM推理的可行性。主要比较模型生成答案与真实值来计算准确性，同时分析每个问题生成的新token数量作为推理效率的指标。附录B报告了锁定时间的比较。

4.1 推理任务

数学推理。使用GSM8k作为数学推理数据集，包含小学水平的数学问题。与其他实验数据集相比，这些问题更多样、更开放，更贴近实际应用场景。通过这个任务探索潜在推理在实际应用中的潜力。训练数据使用Deng等人生成的合成数据集。

逻辑推理。逻辑推理需要正确应用已知条件，运用逻辑规则证明或反驳结论。这要求模型从多个可能的推理路径中做出选择，正确决策往往依赖于探索和提前规划。我们使用5-hop ProntoQA问题，带有虚构概念名称。每个问题随机生成树状本体，用自然语言描述为条件集，模型根据条件判断给定陈述是否正确。这作为更高级推理任务（如自动定理证明）的简化模拟。

我们发现ProntoQA的生成过程可能挑战性不足——干扰分支始终很小，减少了复杂规划的需求。为此，我们设计了一个新的数据集构建流程，用随机生成的DAG来结构化条件，得到的数据集ProsQA（带搜索的证明问答）要求模型在图中进行大量规划和搜索才能找到正确推理链。可视化示例如图6，数据集更多细节见附录A。

4.2 实验设置

所有实验使用预训练GPT-2作为基础模型。学习率1×10^-4，有效批量大小128。遵循Deng等人，训练阶段切换时重置优化器。

数学推理。默认每个推理步骤使用2个潜在思维（c=2），第4.4节分析性能与c的关系。模型除初始阶段外经历3个阶段，然后有一个额外阶段——使用与倒数第二阶段相同的3×c个连续思维，但移除所有剩余语言推理链（处理推理链长度超过3步的长尾分布）。初始阶段训练6个周期，每个剩余阶段训练3个周期。

逻辑推理。每个推理步骤使用1个连续思维（c=1）。除初始阶段外，模型经历6个训练阶段（这两个数据集中推理步骤最大数量是6），最后阶段完全使用连续思维解决问题。每个阶段训练5个周期。

所有数据集在标准计划后，模型保持在最终训练阶段直到第50个周期。根据验证集准确率选择检查点。推理时手动设置连续思维数目与最终训练阶段一致。所有实验使用贪婪解码。

4.3 基线方法和Coconut变体

表1 三个数据集上的结果：更高准确率表示更强推理能力，生成更少token表示更高效率。

我们考虑以下基线：（1）CoT：用完整推理链通过监督微调训练语言模型，推理时模型在输出答案前生成推理链。（2）no-CoT：LLM直接生成答案，不经过推理链。（3）iCoT：用语言推理链训练，并遵循精心设计的计划将CoT“内化”——训练中逐渐移除推理链开头的标记，直到只剩答案；推理时模型直接预测答案。（4）Pause token：只使用问题和答案训练（无推理链），但在问题和答案之间插入特殊的 token，为模型提供额外计算能力。为公平比较， token数量与Coconut中的连续思维相同。

我们还评估了一些变体：（1）w/o curriculum：不使用多阶段训练，直接用最后阶段数据（只有问题和答案）训练Coconut，模型用连续思维解决整个问题。（2）w/o thought：保持多阶段训练，逐步移除语言推理步骤，但不使用任何连续潜在思维。这与iCoT的高级思想相似，但训练计划与Coconut一致，确保更严格的比较。（3）Pause as thought：用特殊 token替换连续思维，应用与Coconut相同的多阶段训练课程。

4.4 结果与讨论

表1展示了所有数据集的整体结果。连续思维有效增强了LLM推理——与no-CoT相比有持续改进，甚至在ProntoQA和ProsQA上超过了CoT。下面几个关键结论值得关注。

“链式”连续思维增强了推理。传统CoT中，输出token作为下一个输入，增加了LLM的有效深度并增强了表现力。潜在空间推理是否保留这一特性？如果是，意味着可以通过链式多个潜在思维来扩展模型、解决更复杂的问题。

图3 不同连续思考次数在GSM8k上的准确率。

在GSM8k实验中，Coconut表现优于其他采用类似策略训练的架构，尤其超越了最新基线iCoT。Coconut（Pause as thought）显著更优，这也让LLM有了更多的计算空间。Pfau等人通过实证表明，特殊 token能极大促进高度可并行化问题的解决，但我们的结果显示Coconut架构在处理一般问题（如数学文字题，推理步骤通常依赖前序步骤）时更为有效。我们还尝试调整超参数c（控制对应一个语言推理步骤的潜在思维数量）（图3）。当c从0增加到1再到2，模型性能稳步提升。这说明潜在空间中也存在类似CoT的链式效应。

在另外两个合成任务中，Coconut变体（w/o thought或Pause as thought）和iCoT基线也实现了令人印象深刻的准确度，说明这些任务中模型计算能力可能不是瓶颈。相比之下，GSM8k作为开放域问答任务，涉及更复杂的上下文理解和建模，对计算能力要求更高。

潜在推理在规划密集型任务中优于语言推理。复杂推理往往需要模型“前瞻性”评估每一步的适当性。GSM8k和ProntoQA因直观的问题结构和有限的分支，下一步预测相对直接。而ProsQA随机生成的DAG结构对规划能力提出了重大挑战。如表1所示，CoT在No-CoT之上并没有显著改进，但Coconut及其变体和iCoT显著增强了ProsQA上的推理。这表明潜在空间推理在需要广泛规划的任务中具有明显优势。第5节将提供深入分析。

LLM仍然需要指导来学习潜在推理。理想情况下，模型应通过问题和答案上的梯度下降自动学会最有效的连续思维（即Coconutw/o curriculum）。然而实验发现，这样训练的模型并不比no-CoT好。

采用多阶段课程将训练分解为更容易的目标后，Coconut能在各种任务中实现顶级性能。多阶段训练也与pause token（Coconut-Pause as thought）很好地结合。尽管使用相同架构和类似的多阶段训练目标，我们观察到iCoT和Coconut（w/o thought）在性能上有微小差距。iCoT中更细粒度的移除计划（逐个token）和其他技巧可能有助于简化训练过程。将iCoT和Coconut结合留作未来工作。虽然多阶段训练已被证明有效，但为开发更好、更通用的潜在空间推理学习策略（尤其在没有语言推理链监督时），进一步研究仍是必要的。

图4 将连续思维解码为语言标记的案例研究。

持续的思考是推理的高效表达。尽管连续思维并非设计为可解码成语言标记，但我们可以用它来提供直观的解释。图4展示了一个由Coconut（c=1）解决的数学文字题的案例研究：第一个连续思维可解码为“180”、“ 180”（带空格）和“9”等标记。注意这个问题的推理轨迹应该是3×3×60=9×60=540，或3×3×60=3×180=540。第一个思维的解释恰好是计算中的第一个中间变量。此外，它将不同轨迹的分布编码到了连续思维中。如第5.3节所示，这一特性让规划密集型推理任务能够实现更高级的推理模式。

图5 Coconut多个变体在ProsQA上的最终答案（左）和推理过程（右）的准确性。

5 理解Coconut的潜在推理

本节分析一种Coconut变体的潜在推理过程。通过利用它在语言和潜在空间推理之间切换的能力，我们控制模型在完全潜在推理和完全语言推理之间插值，测试性能（第5.2节）。这也能将潜在推理过程解释为树搜索（第5.3节），进而解释为何潜在推理能让LLM的决策变得更轻松（第5.4节）。

5.1 实验设置

方法。Coconut的设计使我们能够在推理中通过手动设置位置来控制潜在思维的数量。强制Coconut使用k个连续思维时，模型预计从k+1步开始输出剩余推理链。我们在ProsQA上测试了k∈{0,1,2,3,4,5,6}的变体（推理时间不同，权重相同）。同时报告CoT和no-CoT的性能作为参考。

为解决忘记早期训练阶段的问题，我们修改了原始多阶段训练课程：始终以概率p=0.3混合来自其他阶段的数据。这种更新的课程产生了相似的性能，并能有效控制潜在和语言推理之间的切换。

指标。我们使用了两套评估指标。其一是基于最终答案的正确性（无论推理过程如何），即第4.4节主要实验结果所用的指标。为了实现细粒度分析，我们定义了另一个关于推理过程的指标。假设有一个完整的语言推理链，指定了图中的路径，可分类为：(1) 正确路径：输出是通向正确答案的最短路径之一；(2) 较长路径：有效路径，能正确回答问题但比最短路径长；(3) 幻觉：路径包含不存在的边或是不连通的；(4) 错误目标：图中有效路径，但目标节点不是被问的节点。这四类适用于Coconut(k=0)和CoT的输出（生成完整路径）。对于k>0的Coconut，它只输出部分路径（在连续推理初始步骤后），如果存在有效解释能够完成该路径，我们把推理分类为正确路径；类似地定义较长路径和错误目标；如果没有有效解释完成路径则分类为幻觉。在no-CoT和k较大的Coconut中，模型可能只输出最终答案而没有任何部分路径，分类为(5) 正确标签或(6) 错误标签。这六类覆盖所有情况，且无重叠。

图6 ProsQA案例研究。模型在陷入死胡同后，通过CoT训练产生幻觉。CoconuT(k=1)输出以无关节点结束的路径。CoconuT(k=2)正确解决问题。

图7 潜在搜索树插图。示例与图6测试用例相同。节点高度h定义为到图中任何叶节点的最长距离。我们展示模型根据潜在思维预测的第一个概念的概率（如左图中“lempus”），计算为所有在先前的上下文条件标记概率的乘积。这个指标可以被解释为模型估计的隐式价值函数，用于评估每个节点导致正确答案的潜力。

5.2 在潜在和语言推理之间插值

图5展示了不同推理方法在ProsQA上的比较分析。随着推理中连续思考的增加（k增大），最终答案的准确性（左侧）和正确推理过程的比例（右侧“正确标签”和“正确路径”）都得到了提高。同时，“幻觉”和“错误目标”的比例下降，这通常发生在模型早期做出错误决策时。这也表明当更多推理发生在潜在空间时，模型的规划能力更强。

图6展示了一个案例：CoT幻觉出不存在的边，Coconut(k=1)导致错误目标，而CoconuT(k=2)成功解决。在这个例子中，模型在早期步骤无法准确确定选择哪条边，但由于潜在推理可以避免在早期做出艰难选择，模型能在后续步骤逐步消除错误选项，推理结束时达到更高的准确性。第5.3节将展示更多证据。

CoT与Coconut(k=0)的比较揭示了另一个有趣的观察：即使Coconut被迫生成完整的推理链，答案准确性仍高于CoT，生成的推理路径也更准确、幻觉更少。由此可以推断，混合不同阶段的训练方法提升了模型的前瞻能力。CoT的训练目标始终集中在生成下一步，导致模型“短视”，而Coconut训练后期隐藏前几步，迫使模型更多地关注未来步骤。这呼应了Gloeckle等人关于多token预测作为新预训练目标能提高LLM前瞻能力的研究。

5.3 潜在搜索树的解释

考虑到连续思维可以编码多个潜在的下一步，潜在推理可以解释为一个搜索树，而不仅仅是推理“链”。以图6为例，第一步可能选择Alex的一个孩子：{lempus, sterpus, zhorpus, grimpus}。图7左侧展示了所有可能的分支。第二步，前沿节点是Alex的孙子（右侧）。

与标准BFS均匀探索所有前沿节点不同，模型展示了优先考虑有希望节点并剪枝不相关节点的能力。为了揭示选择偏好，我们分析其在语言空间中的后续输出。例如，如果模型在单个潜在思维（k=1）后被迫切换回语言空间，它会以结构化格式预测下一步，如“每个[概念A是[概念B|”。通过检查[概念A]潜在填充物的概率分布，我们可为根节点Alex的孩子（图7左侧）推导出数值。

同样，当k=2时，获得所有前沿节点（Alex的孙子）的预测概率（图7右侧）。概率分布可视为模型的隐式价值函数，估计每个节点达到目标的可能性。例如，“lempus”、“zhorpus”、“grimpus”、“sterpus”的价值分别为0.33、0.16、0.32、0.01，说明第一次连续思维中模型主要排除了“sterpus”，但对其他三个仍不确定；第二次思维中模型主要排除了其他选项，专注于“torpus”。

图8展示了模型在第一和第二次思维中的并行性分析。第一次思维（左侧）：候选节点top-1、top-2、top-3的累积值与测试集中对应百分位数的关系。三条线之间的明显差距表明模型在这个阶段保持了显著的多样性，广泛地探索替代可能性。第二次思维（右侧）：这些差距缩小，表明模型从并行探索转向更集中的推理，可能是因为对最有希望的道路有了更多确定性。

5.4 为什么潜在空间更适合规划？

这里探讨为什么潜在推理对规划有利，借助搜索树视角和价值函数。参考示例，“sterpus”与其他三个选项的关键区别在于搜索树的结构：“sterpus”是叶子节点（图6），因此可以立即被识别为错误选择（不能导向目标节点“bompus”）。其他节点有更多的后代需要探索，评估起来更具挑战性。为了量化节点的探索潜力，我们测量它到任何叶子节点的最短距离（高度）。假设高度较低的节点因探索潜力有限而更容易被准确评估。与此一致，例子中模型对“grimpus”和“lempus”（高度均为2，比其他候选人高）表现出更大的不确定性。

图9 概念预测概率与其高度的相关性。

为了更严格地测试这一假设，我们分析了模型在测试集的第一和第二次潜在推理步骤中，预测概率与节点高度之间的相关性。图9显示了明显的模式：当节点高度较低时，模型成功地将较低价值分配给错误节点、较高价值分配给正确节点；但随着高度的增加，这种区别变得不明显，说明准确评估的难度更大。总之，这些发现突出了利用潜在空间进行规划的好处：通过推迟确定性决策并扩展潜在推理，模型使探索更接近搜索树的终端状态，从而更容易区分正确和错误节点。

6 结论

本文提出了Coconut，一种在连续潜在空间中进行推理的新范式。通过广泛的实验，我们证明了Coconut显著增强了LLM的推理能力。

值得注意的是，详细的分析揭示了无约束的潜在空间如何让模型发展出类似于BFS的高效推理模式。未来需要进一步精炼和扩展潜在推理方法。一个有前景的方向是使用连续思维对LLM进行预训练，这或许能让模型更有效地泛化到更广泛的推理场景。我们预计，这些发现将激发对潜在推理方法的进一步研究，最终有助于更先进的机器推理系统的发展。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：Meta连续思维链Coconut突破CoT局限探索潜在空间推理要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题