现代RAG架构演进：一代更比一代强

掌握RAG技术演进，解锁企业AI应用新高度。从最基础的Naive RAG到智能化的Agentic RAG，每一次技术迭代都旨在解决企业在实际应用大语言模型时遇到的痛点。本文将带你系统性地回顾这段演进历程，让你清晰理解每一步的革新都在攻克哪些挑战。

01 Naive RAG：一切开始的地方

2022年底ChatGPT横空出世，让大语言模型（LLM）成为主流，而几乎同时，Naive RAG（检索增强生成）技术也诞生了。它的出现旨在解决原生LLM面临的几个核心问题：

• 幻觉问题：模型会生成看似合理但实际错误的信息。

• 上下文窗口有限：模型一次能处理的信息量受限。

• 无法访问私有数据：模型只能使用公开数据进行训练。

• 知识更新困难：模型训练完成后，其知识便固定了，无法自动获取新信息，更新知识需要重新训练模型。

Naive RAG通过一个"检索+生成"的流程来应对这些挑战。下图清晰地展示了其核心架构：

Naive RAG的工作流程主要分为预处理和检索生成两个阶段。

预处理阶段（Preprocessing）

这个阶段的目标是将你的知识库（例如Confluence文档、PDF报告等）转换成机器可以快速搜索的格式。

• 第一步：文本分块 将整个知识库中的文档分割成较小的、独立的文本块。每个文本块就是一个可供查询的上下文片段。

• 第二步：向量化 使用一个嵌入模型，将每个文本块转换成一个向量，这个向量代表了文本的语义信息。

• 第三步：存入数据库 将所有生成的向量存入一个专门的向量数据库中，并同时保存对应的原始文本。

检索与生成阶段（Retrieval & Generation）

• 第四步：查询向量化 当用户提出问题时，使用同一个嵌入模型，将用户的问题也转换成一个向量。

• 第五步：执行搜索 用用户问题的向量在向量数据库中进行搜索。你需要决定要检索多少个最相关的上下文片段。

• 第六步：返回结果 向量数据库会执行近似最近邻（ANN）搜索，找到与问题向量最相似的几个上下文向量，然后将这些向量对应的原始文本返回。

• 第七步：生成答案 将用户的问题和检索到的文本块作为上下文，一起通过提示词传递给一个大语言模型。模型会被指示仅根据提供的上下文来生成答案。

小提示： 即使有了检索到的上下文，提示词工程依然至关重要。你需要精心设计提示词，确保模型输出符合预期，例如，当检索到的上下文中没有相关信息时，模型应回答"不知道"，而不是编造答案。

02 Naive RAG系统的动态组件

构建一个生产级的RAG系统远不止上述简单的流程，它包含许多需要精心调优的动态组件。即使不采用高级技术，这些组件也决定了系统的基础性能。

检索环节

• 分块策略：如何将文档分割成块？

  • 选择小文本块还是大文本块？

  • 使用滑动窗口还是固定窗口的方法？

  • 检索时是否要返回包含该块的更大段落（父块）？

• 嵌入模型选择：选择哪个模型来将文本转换为向量？

  • 是否需要为特定领域的词汇进行微调？

  • 是否使用能将上下文信息融入向量的模型？

• 向量数据库：选择哪种数据库？部署在哪？

  • 应该一起存储哪些元数据（如文档来源、时间戳），以用于检索前的筛选或检索后的过滤？

  • 采用何种索引构建策略来加快搜索速度？

• 向量搜索：如何进行搜索？

  • 选择哪种相似度度量标准（如余弦相似度）？

  • 搜索路径：是先通过元数据筛选，还是直接进行ANN搜索？

  • 是否组合使用语义搜索和关键词搜索（混合搜索）？

• 启发式规则：应用哪些业务规则来优化检索？

  • 根据文档的时间新旧程度调整权重。

  • 对检索到的上下文进行去重。

  • 检索时附带文档的原始来源信息。

生成环节

• 大语言模型选择：为你的应用场景选择最合适的LLM。

• 提示词工程：精心设计系统提示词，以设定角色、规则和输出格式，确保生成的答案符合预期并能抵御恶意攻击。

完成以上所有工作，我们才能构建一个可运行的RAG系统。

但残酷的事实是，此类系统往往难以真正解决业务问题。由于各种原因，这种系统的准确性可能很低。

常见问题：为什么Naive RAG的准确性可能很低？

常见原因包括：分块不合理导致上下文丢失、嵌入模型无法理解特定领域术语、向量搜索返回了不相关的结果、LLM没有正确遵循"仅使用上下文"的指令等。

03 改进Naive RAG系统的高级技术

为了提高Naive RAG系统的准确性，业界采用了多种高级技术。

• 查询动态优化：对用户输入的查询进行优化，以便更好地检索。

  • 查询重写：让LLM对原始查询进行改写，例如修正语法错误、将其精简为更精炼的语句，使其更适合检索。

  • 查询扩展：让LLM根据原始查询创建多个相似但不同的版本，然后对每个版本都进行检索，以获取更全面的上下文。

• 重排序：首次检索时会获取比实际需要更多的文档，然后使用一个更精准的模型对这些文档进行重新排序，将最相关的文档排在前面。此技术尤其适合与查询扩展配合使用。

• 嵌入模型的微调：在医疗、金融等高度专业化的领域，通用嵌入模型可能检索效果不佳。此时，需要使用自己的领域数据对嵌入模型进行定制化微调。

04 上下文检索（Contextual Retrieval）

由Anthropic团队提出的上下文检索方法，其目标是提升检索到的数据的准确性和相关性。它的核心思想非常直观：确保被检索的文本块"知道"自己是从哪来的。

预处理阶段

1. 使用选定的策略将每份文档分割成文本块。

2. 将每个文本块与包含它的完整文档一起，构造一个提示词。

3. 在提示词中，要求LLM定位该文本块在文档中的位置，并为其生成一段简短的、描述性的上下文。

4. 将上一步生成的上下文与原始文本块合并。

5. 将合并后的数据分别输入一个TF-IDF嵌入器和一个基于LLM的嵌入模型。

6. 将两种方式生成的嵌入存入支持高效搜索的数据库。

检索阶段

7. 使用用户查询进行检索。通过ANN搜索实现语义匹配，同时使用TF-IDF索引进行精确匹配。

8. 使用排序融合（Rank Fusion）技术对两个搜索结果进行合并、去重，并选出排名前N的候选项。

9. 对前一步的结果进行重排序，将范围缩小至前K个最相关的候选项。

10. 将最终选出的上下文与用户查询一起输入LLM，生成最终答案。

小提示： 虽然步骤3听起来计算成本很高，但通过应用提示词缓存技术，成本可以被显著降低。

05 缓存增强生成（CAG）的昙花一现

2024年底，一项号称能彻底改变RAG的技术——缓存增强生成（CAG）——引起了广泛的讨论。它试图用另一种方式来替代RAG的实时检索环节。

CAG的基本思路是：

1. 将所有外部知识库的上下文一次性预计算到LLM的KV缓存中，并存入内存。这个过程只需要做一次。

2. 当用户提问时，直接将查询和如何使用缓存的指令一起输入给LLM。

3. LLM生成答案并返回。之后，清理掉临时生成的缓存内容，只保留最初预计算好的上下文缓存，为下一次生成做准备。

CAG承诺通过将全部上下文一次性加载到缓存中，来避免每次生成只检索部分数据而带来的信息缺失问题。然而，它面临着几个难以克服的局限：

• 无法解决上下文过长问题：即使加载了整个知识库，LLM在处理超长上下文时依然会出现"迷失"和准确性下降的问题。

• 数据安全风险：将所有数据加载到单一缓存中，存在数据泄露的安全隐患。

• 难以扩展：对于大型组织，将整个知识库一次性加载到缓存中几乎是不可能的。

• 缺乏动态性：缓存在加载后就固定了，无法方便地添加或更新数据。

一种更务实的做法是，将CAG的思想与RAG结合起来，这实际上与现代LLM提供商提供的提示词缓存技术如出一辙：

• 对于极少变化且高频查询的数据（如系统提示词、常用文档），采用CAG的思路，预计算并缓存其KV Cache。

• 对于频繁变化或特定于用户查询的数据，则继续使用RAG的流程，动态检索。

06 Agentic RAG：迈向更智能的范式

Agentic RAG代表了当前RAG技术演进的最新方向。它通过引入两个核心组件，来应对更复杂、更多变的用户查询。

核心机制一：数据源路由

系统不再是仅从一个知识库中检索，而是被赋予多个数据源（如内部文档、实时用户数据、网络公开数据等）。系统内的智能体能够根据用户的问题，自主决策应该去哪个数据源获取信息。

核心机制二：答案验证与修正

生成答案后，系统不会立即返回。智能体会先对生成的答案进行分析和评估，判断其正确性、相关性。如果答案不够好，它会尝试改写查询并重新生成，直到答案令人满意。

下图展示了Agentic RAG的工作流程：

工作流程详解

1. 分析用户查询：基于LLM的智能体分析用户原始查询。此阶段，它可能会改写查询，并判断是否需要额外的数据源。这是体现其自主决策能力的第一环节。

2. 数据源路由：如果判定需要更多数据，智能体自主选择合适的预置数据源。例如，查询用户当前位置时，路由到实时位置数据源；查询公司政策时，路由到内部文档库。

3. 重排序：从不同数据源检索到的数据被合并后，会像在常规RAG中一样被重排序。不同数据源的复杂性被封装在智能体可调用的工具背后。

4. 生成答案：基于检索到的上下文生成答案。这个过程可能一次完成，也可能在答案验证与修正环节后反复进行。

5. 答案验证与修正：对生成的答案进行分析、总结，并评估其正确性和相关性。

   • 如果智能体认为答案足够完善，则返回给用户。
   • 如果认为答案有待改进，则尝试改写用户查询并重新进入生成循环。这是Agentic RAG区别于常规RAG的显著特征。

常见问题：Agentic RAG和常规RAG最大的不同是什么？

最大的不同在于它的"智能决策"能力。常规RAG是"查-答"的线性流程，而Agentic RAG引入了"思考-选择-验证-修正"的循环。它能自主决定从哪查、查什么，并在生成答案后验证其质量，甚至可以进行自我修正。

07 总结与展望

回顾现代RAG架构的演进历程，我们可以看到这是一个从简单到复杂、从被动到主动的系统性优化过程。

RAG技术并未消亡，也不会在短期内消失。它的架构在未来仍将持续演进。学习并理解这些架构，知道在何种场景下选择合适的方案，将是一项极具价值的投资。

一般来说，方案越简单越好，因为增加系统复杂性也会带来新的挑战，例如：

• 对端到端系统进行评估的困难。

• 多次调用LLM导致的延迟增加。

• 运营成本的增加。

理解每一步演进背后的权衡和取舍，才能真正驾驭这项强大的技术，为企业AI应用解锁新的高度。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：现代RAG架构演进：一代更比一代强要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题