企业RAG系统失败原因：谷歌研究提出充足上下文方案

这件事，要从谷歌近期发布的一篇研究说起。他们提出了一套名为“充足上下文”的框架，专门用于帮助企业理解检索增强生成（RAG）系统在哪些环节容易出错，以及如何修复。对于企业级应用而言，这一方向极具价值——因为在真实业务场景中，系统回答的可靠性和事实准确性始终是最优先的考量。

检索增强生成（RAG）系统已被公认为构建更可信、可验证AI应用的核心技术。然而，坦白说，这些系统目前距离完美仍有相当距离。常见的挑战包括：即便检索到了正确的证据，模型仍可能自信地输出错误答案；容易被上下文中的无关信息干扰；在处理长文本片段时，提取正确答案的能力也时常不足。论文中直言：理想情况下，当上下文信息结合模型自身的参数化知识足以回答问题时，模型应输出正确答案；反之，它应当拒绝回答，或要求补充更多信息。

要实现这一理想状态，核心难题在于：如何让模型自主判断上下文是否充分支撑正确答案，并据此选择性利用信息。此前的研究曾尝试观察模型在不同信息量下的表现，但谷歌团队指出，这些工作并未真正直接解决这一核心问题。

充足的上下文（Sufficient context）

为攻克这一难题，研究人员引入了“充足上下文”这一概念。他们将输入实例划分为两类：一类是上下文充足，即包含回答查询所需的所有必要信息；另一类是上下文不充足，即上下文中缺乏关键信息——可能因查询需要专业知识未被覆盖，或因信息不完整、结论模糊、存在矛盾所致。

举例来说，假设问题是“Lya L.的配偶是谁？”。上下文A说“Lya L.于2020年与Paul结婚”，上下文B是维基百科式的“配偶：Paul（2020年结婚）”，两者均属于充足上下文。而上下文C说“Lya L.曾于2006年与Tom结婚……2014年离婚……2018年与Paul约会”，信息矛盾，属于不充足上下文；上下文D只提到“Lya L.是宇航员……育有两个孩子……父母是律师”，完全没有涉及配偶信息，同样属于不充足上下文。

这种分类方法的关键优势在于：它仅依赖问题本身和上下文，完全不需要知道真实答案。在推理过程中，真实答案往往难以获取，因此这一特性对实际应用至关重要。研究团队开发了一个基于LLM的“自动评分器”，用于自动标记每个实例是否上下文充足。实验表明，谷歌的Gemini 1.5 Pro模型在单次示例的情况下表现优异，上下文分类的F1分数和准确率均达到较高水平。

论文强调，在现实场景中评估模型性能时，无法预设候选答案。因此，仅依赖查询内容和上下文就能运作的方法，才真正具备实用价值。

RAG系统中大语言模型（LLM）行为的关键发现

借助“充足上下文”框架，研究人员对多个模型和数据集进行了分析，揭示了几个重要结论：

1. 当上下文充足时，模型通常准确率更高。但值得关注的是，即便上下文充足，模型产生幻觉的频率仍高于选择弃答。上下文不足时，情况更加复杂：有的模型弃答率升高，有的模型幻觉率反而增加。

2. 尽管RAG总体上能提升模型表现，但额外的上下文也可能削弱模型在信息不足时选择弃答的能力。研究人员指出，这种现象可能源于模型在面对任何上下文信息时都会产生过度自信，从而导致更高的幻觉倾向。

3. 一个特别有趣的发现是：即便被判定为“上下文不足”，模型有时也能给出正确答案。通常认为这是因为模型通过预训练“掌握”了答案，但研究人员还发现了其他因素：例如上下文可能帮助消除查询歧义，或弥补模型知识缺口，即使它并不包含完整答案。这种能力对RAG系统设计具有更广泛的启示。

该研究的合著者、谷歌资深研究科学家Cyrus Rashtchian进一步强调了基础LLM质量的关键性。他认为，企业级RAG系统的评估，需要在有检索和无检索的基准测试中分别进行。检索应被视为对模型知识的“增强”，而非唯一的事实来源。基础模型仍需承担以下职责：填补信息空白，利用上下文线索进行合理推理，判断问题是否表述不明确或存在歧义，而不是盲目复制上下文信息。

降低RAG系统中的幻觉现象

研究发现，与无RAG的场景相比，配备RAG的模型更容易出现“生成幻觉而非主动拒绝回答”的现象。为此，研究人员探索了缓解措施。

他们开发了一种新的“选择性生成”框架，使用一个独立的轻量级“干预模型”来决定主LLM应该生成答案还是选择弃答，从而在准确率和覆盖率之间实现可控权衡。这个框架可以与任何LLM结合使用，包括Gemini和GPT等专有模型。研究发现，在该框架中使用“充足上下文”作为额外信号，能显著提高不同模型和数据集的回签准确率，使Gemini、GPT和Gemma等模型的正确率提高了2%-10%。

Rashtchian举了一个客户服务AI的具体例子来解释这一改进的商业价值：想象一个客户询问能否获得折扣，如果检索到的上下文是最新的，明确描述了正在进行的促销活动，模型可以自信地回答。但如果上下文是“过时的”，描述的是几个月前的折扣，或者有特定的条款和条件，这时模型最好回答“我不确定”，或者建议客户联系客服。

研究团队还探索了通过微调模型来鼓励弃答行为。具体做法是在训练时，将那些上下文不足的实例中的答案替换为“我不知道”。结果好坏参半：经过微调的模型虽然通常有更高的正确答案率，但仍然频繁产生幻觉，且幻觉次数往往多于弃答次数。论文总结指出，微调可能有所帮助，但还需要更多工作来开发能够平衡这些目标的可靠策略。

将“充足上下文”应用于实际RAG系统

对于希望将这些发现应用于自身RAG系统的企业团队，Rashtchian提出了一个实用方法：首先收集一批代表生产环境中的查询-上下文配对数据集，然后用基于LLM的自动评估器将每个示例标记为上下文充足或不充足。

“这已经能够很好地估算出充足上下文的比例，”Rashtchian表示，“如果比例低于80-90%，那么在检索或知识库方面可能还有很大改进空间，这是一个很好的可观察指标。”他建议团队接着根据充足上下文和不充足上下文的示例，对模型响应进行分层分析。通过分别检查这两类数据集上的指标，团队可以更好地理解性能差异。例如，当给定不充足上下文时，模型更可能提供错误答案，这是另一个可观察指标。在整个数据集上汇总统计，可能会掩盖一小部分重要但处理不当的查询。

虽然基于LLM的自动评估器展现出高准确率，但企业团队可能会担心额外的计算成本。Rashtchian澄清说，出于诊断目的，这种开销是可以控制的。在小型测试集（比如500-1000个示例）上运行基于LLM的自动评估器应该相对便宜，而且可以“离线”完成，不用担心耗时问题。对于实时应用，他建议使用启发式方法，或者至少使用更小的模型。他强调的关键点是：工程师应该关注比检索组件的相似度分数等更深入的指标。从LLM或启发式方法获得额外信号，能够带来新的洞察。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：企业RAG系统失败原因：谷歌研究提出充足上下文方案要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题