ICML 2026研究揭示大模型仅需少量思考令牌即可实现深度推理

Chain-of-Thought（CoT，思维链）推理，已成为当前大语言模型解决复杂问题的核心范式。它通过引导模型将推理步骤逐步显式化，显著提升了在数学、逻辑等任务上的表现。

然而，这种“显式思考”模式也带来了显著的效率瓶颈。模型需要生成海量的中间过程文本，每一个额外的token都直接增加了推理延迟、消耗了宝贵的显存，并推高了计算成本。尤其是在处理多模态任务时，模型往往需要先耗费大量篇幅描述图像、总结问题上下文，最后才进行关键推导。这个过程虽然提升了可解释性，但其背后的计算开销却不容忽视。

这引发了一个深刻的思考：大模型的“推理过程”，是否必须完全以人类可读的长文本形式呈现？是否存在一种更高效、更本质的推理实现方式？

近期，来自浙江大学、Adobe Research和杜克大学的研究团队提出了一项创新解决方案。他们设计了一个面向多模态大模型的高效推理框架——Heima。该方法的核心创新在于，将原本冗长的文本思维链，压缩为一系列高度抽象的“思维令牌”（thinking tokens）。模型无需将每一步思考都“说”出来，而是在一个隐式的内部空间中完成高效的推理演算。

实验结果表明，这一方法能大幅减少生成token的数量，同时最大限度地保留CoT带来的性能增益。更深入的是，研究者尝试使用一个纯语言模型作为“解释器”，对这些抽象的思维令牌进行解码与重构。研究发现，这些内部令牌确实编码了可被还原、可被分析的逻辑推理链，从而为模型的“隐式思考”黑箱打开了一扇可解释的窗口。

这项名为《Efficient Reasoning with Hidden Thinking》的研究工作，已被机器学习顶级会议ICML 2026接收。

论文标题：Efficient Reasoning with Hidden Thinking
方法名称：Heima
会议：ICML 2026