一 RAG简介

大模型相较于传统语言模型，能力确实有了质的飞跃。然而在实际落地过程中，仍面临准确性不足、知识更新滞后、答案缺乏透明度以及“幻觉”频发等核心痛点。因此，检索增强生成（RAG）作为大模型应用开发的主流范式，逐渐成为业界关注的焦点。

简单来说，RAG 的核心思路是：让大模型在生成答案之前，先从外部知识库中检索相关片段，再基于这些检索到的信息组织语言进行回答。这种方式能有效避免模型胡编乱造，确保输出结果“有据可依”。尽管近年来大模型技术飞速发展，但以下几类顽疾依然存在：

• 准确性：LLM 本质上是自回归模型，依赖逐步的概率预测，难免会出现误差。
• 知识更新速度：训练数据存在固有时效性，模型掌握的知识容易过时，回答自然可能滞后于最新信息。
• 答案透明度：模型生成的内容通常缺乏来源追溯，直接影响用户对结论的信任度。
• 领域专业知识能力欠缺：预训练阶段的数据来源广泛，各领域权重均衡，导致模型在处理专业场景时效果往往不尽如人意。

二 RAG与微调效果对比

三、RAG 的工作流程

行业对RAG的定义虽有细微差别，但普遍认为至少包含两个核心阶段。

检索阶段

根据用户输入，先由向量模型将查询内容转化为向量表示，然后计算该向量与知识库中所有文档块向量的相似度，最终筛选出最相关的 top K 个文档块，作为当前问题的补充上下文。

生成阶段

将用户问题与检索到的补充信息拼合，构造一个新的 Prompt，交由大模型依据这些信息生成答案。

四、RAG的局限性

检索过程

RAG 的检索质量受多个因素制约。首先是低精确率——检索返回的文档块中可能混入与查询关联度不高的内容，导致生成结果偏离事实。其次是低召回率——未能召回所有相关文档块，限制了模型获取充分信息的能力。此外，数据过时也是一大挑战。当知识库更新频繁，旧数据未及时清除时，这些过时信息可能误导模型，输出错误结论。

生成过程

生成阶段同样存在隐患。例如检索信息不足（即召回率低），模型可能被迫“脑补”，编造出错误内容。另一个常见问题是答非所问——生成的答案未能正确回应用户的查询，这往往源于模型未能准确理解检索到的知识与用户问题之间的关联。

构造prompt过程

假设已经获得了相关知识，且不存在精确率和召回率问题，如何将这些知识组织成合适的 Prompt 依然困难重重。有研究表明，按相关性间隔排序的效果可能最优，例如 chunk1, chunk3, chunk5, chunk4, chunk2。若用户查询与知识内容的相关性排序为 chunk1 > chunk2 > chunk3 > chunk4 > chunk5，那么当知识块数量较少（如5个）时，模型或许还能全面理解；但数量增多后，很难保证模型能完整把握所有信息。此外，当多个检索到的知识块内容相似时，会产生冗余和重复，导致生成内容冗长啰嗦，反而降低了回答质量。

知识库检索和维护

在实际应用中，RAG 涉及多次检索与生成，对服务器计算资源和网络响应速度要求较高。若涉及多智能体协同，服务器压力将进一步增大。同时，为确保检索准确性，知识库需要定期更新和清理。如果知识库不够完善或更新不及时，生成的结果可能依赖过时信息。因此，在设计可用的 RAG 系统时，必须考虑如何简化知识库的维护流程。

五 RAG性能提升思路

提高检索质量

建库阶段，可通过调整块大小、添加额外元信息来丰富知识内容的信息密度。也可以微调向量模型，增强其对知识库的表示能力。检索时，引入 Rerank 模型对召回的知识内容进行二次筛选和排序，提升用户查询与知识内容的相关性。

提升生成质量

让模型自行判断和筛选知识内容，过滤掉无关片段，并对高相关性内容进行排序，能有效优化回答质量。

其他

为减少实时计算耗时，可采用模型蒸馏技术训练更轻量级的模型，加快推理速度并降低资源消耗。也可引入离线检索或缓存机制，将高频问题的答案预计算并缓存。至于知识库的日常维护，则引入自动化数据更新流程，定期清理过时信息、更新领域知识库，确保 RAG 能够处理最新信息。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：RAG检索增强生成技术现状与挑战全面梳理要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题