RAG工业落地框架对比：QAnything、RAGFlow、FastGPT、智谱RAG

说到RAG，说白了就三件事。 第一，Indexing，也就是怎么把知识更丝滑地存起来。 第二，Retrieval，如何在海量知识里精准捞出用户需要的那一小块，供模型参考。 第三，Generation，把用户的提问和捞回来的知识揉在一起，让模型生成靠谱的回答。 三个步骤听上去挺简单，但从方案构建到真正落地，细节里全是戏——魔鬼都在细节里。 架构基本都沿着这个模块来设计，但各家落地方案各有千秋。

先看一下各家的技术方案

有道的QAnything

QAnyting的亮点，就在于它的Rerank环节——做得相当精细。

RAGFLow

RAGFlow的核心优势则集中在数据处理和Index这一步，文档解析能力是它的重头戏。

智谱AI

智谱在文档解析、切片、Query改写以及Recal模型的微调上都下了功夫，这很值得关注。

FastGPT

FastGPT最大的优点在于灵活性更高，模块的动态配置非常丰富。

下面从功能模块的角度，把几个框架的差异拉出来比一比。 | 功能模块 | QAnything | RAGFLow | 智谱AI | FastGPT | |----------|-----------|---------|--------|---------| | 知识处理模块 | PDF文件解析基于PyMuPDF，目前效率最高的方案。解析文字用PyMuPDF的get_text，不区分文字文档还是图像文档（图像文档如果没有文字会报错） | OCR、Document Layout Analyze等。这些在常规RAG里可能只是不起眼的Unstructured Loader，但RAGFlow的核心能力之一就在这里。 | （暂无详细说明） | （暂无详细说明） | | 召回模块 | 向量库采用Milvus的混合检索（BM25+向量检索），不设阈值，直接返回TopK（100） | 向量数据库用的是ElasticSearch，混合检索实现文本+向量，没有指定具体向量模型，分词器用的是huqie | 支持语义检索、全文检索和混合检索。向量模型采用BGE-M3。通过向量检索和文本检索分别召回数据，再用RFF算法排序。 | 采用文章结构切片和small to big的索引策略。有四种数据构造方案：Query vs Original、Query vs Query、Query vs Summary、F-Answer vs Original。支持Embedding模型微调 | | 重排模块 | 精准排序用自己训练的Rerank模型，阈值设在0.35 | 重排基于文本匹配得分+向量匹配得分混合排序，默认文本权重0.3，向量权重0.7 | 支持重排，动态设置。合并 embedding 和 fulltext 结果并按id去重；对qa字符串拼接后删除空格和标点，hash编码去重；配置了rerank模型则调用重排并新增得分 | （暂无详细说明） | | 大模型处理 | 所有数据组织在一起做Prompt，做了最大Token的优化处理 | 对大模型可用的Token数量进行过滤 | （暂无详细说明） | 模型微调采用分阶段策略：先开源通用问答数据，再垂域问答数据，最后人工标注的高质量问答数据 | | Web服务 | 基于Sanic | 基于Flask | （暂无详细说明） | （暂无详细说明） | | 切词处理 | 自定义的ChineseTextSplitter | 使用huqie分词器 | （暂无详细说明） | （暂无详细说明） | | 文件存储 | （暂无详细说明） | 文件存储使用的是MinIO | （暂无详细说明） | （暂无详细说明） | | 亮点 | 与常规RAG相比，Rerank环节做得非常精细 | 解析过程复杂但效果好，能将解析后的文本块与原始文档中的原始位置关联起来，目前只有RAGFlow实现了类似效果 | 提供三种检索模式，覆盖RAG主流实现。对重复数据去重并取最高得分，计算rrfScore并以此排序 | 模块动态配置多，灵活性高 | **总结一下：** 1. QAnything的Rerank模块设计最好 2. RAGFlow的文档处理能力最强 3. FastGPT的模块动态配置最丰富 4. 智谱RAG在领域数据上的微调训练表现最优 全维度来看，没有绝对的“最好”。落到自己业务的数据上，能正常跑起来、输出稳定结果，那就是最好的选择——落地为王。