一种递归提示增强语言模型的方案

复杂问题总是让人头疼，尤其是当语言模型面对需要多步推理的任务时，往往容易“卡壳”。不过，有没有一种办法能让模型像人类一样，先把大问题拆成小问题，再逐个击破？这就是本文要聊的递归提示（Recursive Prompting）思路。简单来说，它通过将困难任务逐步分解为更简单的子问题，再以串行或并行的方式解决，最后把结果拼起来，从而提升整体效果。下面我们就从并行式和串行式两种主流方案入手，看看它们是怎么玩的。

1 简介

有些工作尝试引导模型输出中间推理步骤，把复杂问题显式拆成多个子问题，用分而治之的策略来解。考虑到组合泛化对语言模型来说不是件容易事，这种递归方法在复杂任务上尤其管用。根据子问题解决方式的差异，可以分为串行和并行两种流派：串行方式下，子问题相互依赖，前一个的答案会塞进后续的提示里，环环相扣；并行方式则各子问题独立求解，最后再汇总。下面咱们先看并行式。

2 并行式

DECOMPRC

在多跳阅读理解场景中，模型需要从一堆段落里推理归纳，难度不小。DECOMPRC提出一种新思路：把多跳问题拆成多个更简单的单跳子问题——现有阅读理解模型就能搞定。这样一来，准确率自然上去了。

图1: DECOMPRC示例

整个方案分三步走：

• 第一步，将原始多跳问题分解为多个单跳子问题。可以根据不同的推理类型，得到多种分解方式。为此需要为每种推理类型单独训练一个问题分解模型——具体采用指针网络（Pointer Network），用BERT预测原问题中几个关键位置，再结合规则切分。比如预测出一个中间点，就能把原问题切成两段，前半段当第一个子问题，后半段当第二个——如果后半段全是陈述句，就把前面的词换成“which”。实际上就是把分解任务简化成了Span预测问题，只用400条训练数据就能取得不错效果。
• 第二步，对每种分解方式，用单跳阅读理解模型回答每个子问题，然后根据分解类型的特性得出最终答案。
• 第三步，把原问题、分解类型、该分解方式下的子问题和答案一起喂给模型，由它判断哪种分解方式最合理，其对应的答案就是最终结果。

一句话总结：系统提供几种拆解方式，分别算合理性，选最优的那个答案。

QA

在问答场景下，同样可以先把复杂问题拆成简单的子问题（单跳QA模型能答的那种），再汇总生成最终答案。具体流程如下：

图2: QA场景下的recursive prompting方案示例

• 第一步，无监督问题分解。需要训练一个分解模型，但由于监督数据成本太高，于是提出一种无监督构造方式：对每个复杂问题q，从语料集Q中检索召回N个相似的简单问题s作为子问题。这些简单问题既要跟q足够相关，彼此之间又要明显不同——这样构造出的伪配对（q, [s1,…,sN]）就能用来训练模型。
• 第二步，生成子问题回复。用现有的QA模型回答各个子问题，只要这个模型能正确回答语料中的简单问题就行，所以尽量选在简单问题上效果最好的。
• 第三步，生成复杂问题回复。把复杂问题、子问题及其对应回复一起喂给QA模型，让它生成最终答案。这里的QA模型可以和第二步用同一个，只需调整输入格式。

图3: QA场景下的recursive prompting方案示例

图4: 实验结果对比

从实验效果来看，这种问题分解的方式确实能显著提升模型表现。

串行式

SEQZERO

如何让语言模型把自然语言问题转化成SQL语句？SEQZERO给出了一个答案。SQL本身结构复合，往往复杂冗长，要让模型学会自然语言和SQL的映射需要大量训练数据。于是有了基于few-shot的SEQZERO方法。

一个SQL语句包含多个部分：FROM、SELECT、WHERE……只要能从自然语言问题中抽取出这些部分的元素，再通过规则组装起来就能得到SQL。SEQZERO的做法是：先用语言模型预测一个元素，把该元素加回原问题，再预测下一个元素，重复直到所有元素都生成，最后合并。为了提升泛化能力，预测每个元素时采用few-shot和zero-shot的集成策略。

图5: SEQZERO示例

Least-to-most

Chain-of-thought prompting在不少推理任务上表现不错，但一旦问题比示例更难，效果就直线下滑。比如让模型抽取每个单词的最后一个字母，示例输入只有3个单词，但测试问题有10个单词——这时候CoT就失效了。Least-to-most通过两阶段提示来解决：第一阶段把原问题分解成一系列子问题，第二阶段依次解决这些子问题。前面子问题的答案会拼进后续的输入里，方便模型回答下一题。两个阶段的任务不同，因此提示内容也不同。

图6: Least-to-most示例

4 其他

Successive prompting

前面几种方法都是一次性把问题分解好，再串行或并行回答。而Successive prompting则换了个思路：每次只分解出一个子问题，让模型回答它，然后把该子问题和答案重新加到输入里，再分解下一个，如此循环直到没有新子问题产生——最后一个子问题的答案就是原问题的答案。

图7: successive prompting示例

5 总结

递归提示的思路其实很好理解。目前大型语言模型处理简单任务已经很溜了，但遇到复杂问题就头疼：一方面构造复杂问题数据本身就很费劲，另一方面直接让模型在这些数据上训练效果也一般——想想为什么有些数据集上sota指标也不高就知道了。但要是让模型学会根据具体问题自行拆解，把难题变简单，再汇总答案，不就绕开了瓶颈吗？这跟我们人类的行为模式很像：面对复杂任务，我们会合理规划，拆成一个个子任务，然后逐个解决。想想中华民族伟大复兴的道路，不也是通过一个又一个五年计划慢慢推进的吗？

编辑：黄飞

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：一种递归提示增强语言模型的方案要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题