HiRAG基于层级知识索引与检索的高精度RAG技术方案

检索增强生成（RAG）技术，通过从外部知识库中检索信息来辅助大语言模型（LLM），已经成为缓解“幻觉”问题的关键手段。但传统的朴素RAG方法，只是简单地把文档切分成一个个文本块进行检索，这就像把一本书撕成碎片，然后只给你看其中几页——你很难把握实体之间的内在联系，比如“亚马逊”和“AWS”的关系，这就导致了上下文碎片化，回答经常前言不搭后语。

为了解决这个问题，研究者们开始引入图结构，用知识图谱（KG）来建模实体间的关系。这些基于图的方法表现确实不错，但依然存在明显的短板。

拿GraphRAG来说，它用Leiden算法来识别社区结构，但这些社区更多反映的是实体在拓扑结构上的“邻近性”，而不是深层次的“语义关联”。KAG虽然引入了层次化知识表示，但它的层级结构太依赖人工标注和领域专家知识，很难推广到通用场景。LightRAG采用了双层级检索，同时获取局部和全局知识，但它没能解决这两者之间的“知识断层”——局部知识（比如某个实体的具体细节）和全局知识（比如社区的摘要）可能根本说不到一块去，导致模型生成的答案要么不完整，要么自相矛盾。

Introduction

本文认为，当前图结构RAG系统面临两大核心挑战：

挑战一：语义相似，结构疏远。 逻辑上相关的概念，在知识图谱里可能相距甚远。举个例子，在公开数据集里，“大数据”和“推荐系统”在“数据挖掘”这个语义概念下是紧密相关的，但在文档驱动的知识图谱构建过程中，它们可能因为分属不同文档而被割裂开。这种语义相关性与结构邻近性的不一致，严重破坏了RAG系统的上下文连贯性。

挑战二：全局与局部知识之间存在断层。 现有方法（如LightRAG和GraphRAG）通常独立检索全局或局部知识，却无法调和两者的差异。比如，当用户问“请介绍一下亚马逊”，全局上下文强调它在技术领域（如大数据、云计算）的参与，局部上下文则检索到“亚马逊”直接关联的实体（如子公司、领导层）。如果直接把这两种知识层硬塞给LLM，模型很难协调它们的不同范围，结果就是逻辑断裂、答案不完整，甚至前后矛盾。这凸显了我们需要一种新方法，来桥接这些层次化的知识层，确保推理的连贯性。

为了解决这些问题，我们提出了基于层次化知识的检索增强生成框架（HiRAG），将层次化知识的理念融入索引与检索全过程。层次化知识是图结构与人类认知中的自然概念，但现有方法未能充分挖掘其潜力。

• 针对挑战一，我们提出层次化索引（HiIndex），通过分层构建知识图谱，让高层实体能够概括低层实体的语义集群，从而增强语义相似实体间的连通性。比如，引入摘要实体“数据挖掘”后，“大数据”与“推荐系统”的关联就得到了强化。
• 针对挑战二，我们设计层次化检索（HiRetrieval），通过桥接层知识来弥合实体描述与社区知识间的断层，为LLM提供全局层、桥接层与局部层的三级上下文，使其能生成更全面且精确的响应。

Contributions

1. 首次系统性地分析并解决了图结构RAG中语义相似实体结构疏离与知识断层问题。
2. 提出了HiRAG框架，通过无监督的层次化索引与创新性的桥接机制，推动了RAG技术的发展。
3. 大量实验验证了方法的有效性与效率，并通过消融实验证实了各模块的贡献。

Related Work

近年来，图增强型大语言模型取得了显著进展。GNN-RAG通过图神经网络（GNN）的推理机制来检索相关实体，并寻找实体间的最短路径来构建推理路径。LightRAG将双层级检索与图增强的文本索引结合，降低了计算成本。GRAG采用软剪枝方法最小化无关实体的影响，并引入图软提示辅助LLM理解子图。StructRAG会为每个任务识别最合适的结构，并据此生成响应。微软的GraphRAG先检索相关社区，再让LLM生成响应，支持全局和本地搜索。KAG则提出了一个专业领域知识服务框架，通过概念语义推理和人工标注来构建领域专家知识。这些方法各有千秋，但它们都未能很好地解决语义相似实体结构疏远和全局与局部知识割裂的问题，而HiRAG正是针对这些痛点提出了创新性解决方案。

Preliminary and Definitions

这里给出图结构增强RAG框架的一般形式化定义。假设RAG框架包含生成模组和检索模组，以及图索引和图检索器。当回答一个查询时，RAG系统生成的答案可以表示为：

利用全概率公式，我们可以将其分解。大多数情况下，只需要从外部图数据库中检索最相关的子图，进行近似求解。

The HiRAG Framework

HiRAG由两个核心模块组成：HiIndex和HiRetrieval。在HiIndex模块中，我们构建了一个多层次的知识图谱，不同层具有不同的知识粒度。高层中的摘要实体表示更粗粒度的高级知识，但它们可以增强低层中语义相似实体之间的连通性。在HiRetrieval模块中，我们从每个检索到的社区中选择最相关的实体，并找到它们之间的最短路径，作为连接局部和全局知识的桥梁级知识。最终，LLM将基于这三个层次的知识生成响应。

Indexing with Hierarchical Knowledge

在HiIndex模块中，我们要将输入文档索引为层次化知识图谱。首先，采用以实体为中心的三元组提取来构建基本的KG。具体来说，将输入文档分成一些重叠的文本块，通过设计的提示让LLM从中提取实体，再根据文本块信息在实体对之间生成关系。这个基本的KG，就是整个层次化KG的第0层。

接下来的关键是构建分层结构。为了构造第i层（i≥1），我们先获取第(i-1)层中所有实体的嵌入表示，用于捕捉语义相似性。然后，使用高斯混合模型（GMM）对这些嵌入进行聚类，得到若干聚类。对于每个聚类，我们将聚类内实体的描述输入LLM，生成一个摘要实体（比如用“DATA MINING”来概括“BIG DATA”和“RECOMMENDATION SYSTEM”）。所有聚类生成的摘要实体构成新一层的节点集合。

为了引导LLM生成更合理的高层概念，我们还会引入元摘要实体（Meta Summary Entities），比如“technology”、“organization”等，但这些属于顶层概念引导集，不作为层次化KG的节点。

接下来，为每个聚类中的实体与生成的摘要实体创建关系（如“属于”或“被概括为”）。例如，如果聚类包含“BIG DATA”和“RECOMMENDATION SYSTEM”，生成的摘要实体为“DATA MINING”，则建立关系：(BIG DATA, subclass_of, DATA MINING)。

最后，在社区检测与语义报告上，我们使用Leiden算法进行社区发现。由于社区可能跨越多层（包含不同层级的实体），并且一个实体可属于多个社区，HiRAG的层次化结构使得社区能同时反映局部结构和高层语义（比如“医疗专家”社区包含“心脏科医生”和“神经科医生”）。随后，我们会为每个社区生成一份可解释的语义报告（比如“该社区描述亚马逊在电商与云计算领域的业务”），作为全局知识用于后续检索。

Retrieval with Hierarchical Knowledge

基于构建好的层次化知识图谱，我们设计了一个三阶段知识检索框架，有效整合局部细粒度知识、全局社区知识以及桥接层语义关联。

局部知识检索：采用向量相似度度量方法，从知识图谱中筛选与查询q语义最相关的前n个实体集合（默认n=20，确保捕获核心实体）。

全局知识检索：基于索引阶段构建的社区划分结果，定位与局部实体相关的知识社区。每个社区都包含LLM生成的语义化社区报告，表征该社区的宏观知识特征。相比传统平面图谱，HiRAG的层次化抽象机制实现了多粒度语义聚合，确保社区既保持结构紧密度，又蕴含语义关联。

桥接层知识构建：这是解决知识断层问题的关键。我们设计了一个基于推理路径的桥接机制：首先，从每个相关社区中选取前m个查询相关实体；然后，构建这些关键实体间的语义通路，即最短路径；最后，生成桥接子图。这个机制利用层次化图谱中的抽象节点（如“数据挖掘”概念）建立跨社区语义桥梁，有效连接局部实体描述与全局社区知识。例如，桥接路径可以成功关联“亚马逊”在电子商务（局部）与云计算（全局）领域的双重角色，消除知识断层导致的逻辑矛盾。

最终，将三个层次的知识表征（局部实体描述、全局社区报告、桥接子图）联合输入LLM，通过提示工程引导模型进行多粒度知识融合，生成兼具细节准确性与全局一致性的回答。

Why is HiRAG effective?

HiRAG的有效性源于其分层架构设计，直接解决了前述的两个关键挑战。

• 解决挑战一：分层知识图谱通过在高层引入摘要实体，为底层语义相关但结构疏远的实体创建了“快捷连接”。这种设计有效桥接了底层图谱中因语料驱动而分散的语义相关概念，无需遍历细粒度关系即可实现高效关联。例如，虽然“心脏病专家”和“神经科医生”在底层图谱中因缺乏直接连接而分离，但通过上层“医疗专家”的层级抽象，二者可在更高层级形成联合社区成员关系。
• 解决挑战二：HiRetrieval通过将查询最相关的top-n实体与其关联社区进行路径连接，构建推理路径。这些路径代表了局部实体描述与全局社区洞见之间的最短知识连接，确保推理过程同时吸收细粒度细节和宏观上下文知识。

综合优势：通过整合（i）分层捷径连接的语义相似实体、（ii）全局社区语境，以及（iii）优化连接局部与全局知识的路径，HiRAG实现了三重知识融合：语义关联增强、全局语境感知和跨层级知识桥接。这种多维知识整合机制使得系统能够生成兼具深度细节和广域关联的上下文感知型答案，显著提升了回答的全面性和准确性。

Experimental Evaluation

基线方法：实验选取了当前主流的检索增强生成方法作为对比基线，包括NaiveRAG、GraphRAG、LightRAG、FastGraphRAG和KAG，所有基线均采用原始论文推荐的参数配置。

数据集与查询：实验采用UltraDomain基准测试的四个领域数据集（混合领域Mix、计算机科学CS、法律Legal、农业Agriculture），每个数据集都配备了专业构建的基准查询集。数据集在文档数量和文本规模上差异显著，可以充分验证方法在不同数据密度场景下的鲁棒性。所有文档均采用BPE分词器“cl100k_base”进行标准化处理。

整体性能比较：评估采用基于LLM的多维度框架，使用GPT-4o作为评估模型，从全面性、赋能性、多样性和综合质量四个维度进行胜率分析。结果显示，HiRAG在四个数据集的所有维度上均显著优于基线方法，尤其在赋能性（平均胜率83.2%）和多样性（平均胜率82.3%）维度上表现突出。在Legal领域数据集上，HiRAG相较次优基线GraphRAG实现了14.5%的绝对性能提升，验证了方法在法律文本复杂关系建模方面的优势。

分层知识图谱有效性验证：通过构建扁平知识图谱的对比实验（w/o HiIndex），观察到性能指标全面下降。在农业领域数据集中，移除分层索引导致综合质量胜率下降7.2%，这验证了分层结构在增强语义关联方面的重要作用。可视化分析显示，分层索引使图谱聚类系数提升41%，有效解决了语义相似实体结构疏离问题。

跨层级检索机制分析：移除桥接层知识的对比实验（w/o Bridge）揭示了跨层级连接的重要性。在计算机科学领域，缺失桥接知识导致答案的连贯性评分下降19.8%。案例分析表明，桥接路径有效衔接了“分布式计算”理论概念与“MapReduce”等具体技术实体，证明了该机制在弥合知识断层方面的关键作用。

层次数自适应确定：我们提出了动态终止条件：当连续两层的稀疏度变化率低于5%时，停止构建新层。实验数据显示，四个数据集的平均构建层数为3.8层，其中Legal领域因文本复杂性需要5层抽象，而农业领域仅需3层，验证了自适应机制的合理性。

效率与成本分析：虽然HiRAG的索引构建成本较高（Mix数据集耗时17,208秒），但其检索阶段实现零token消耗，显著优于KAG（平均每查询消耗89k tokens）和LightRAG（平均4.2次API调用）。值得注意的是，通过并行化索引流程，HiRAG的构建时间可压缩至原时间的34%，展现了工程优化潜力。

客观指标验证：在HotpotQA和2WikiMultiHopQA标准测试集上，HiRAG的EM值分别达到37%和46.2%，相较传统方法实现2-3倍的性能提升。特别是在多跳推理任务中，HiRAG的F1值（60.06%）显著优于FastGraphRAG（49.56%），证明了方法在复杂知识关联方面的优势。

Overall Performance Comparison

实验设置：遵循近期研究工作的评估范式，采用强大多维对比分析法，通过胜率指标衡量不同方法的性能优势。实验采用GPT-4o作为评估模型，从四个维度进行系统评估：（1）全面性：答案覆盖问题相关方面与细节的完整程度；（2）赋能性：答案提供可操作见解或解决方案的有效性；（3）多样性：答案整合不同视角、方法或解决方案的广度；（4）综合表现：综合考量上述维度及其他相关因素的整体质量。为确保公平性，在提示语中随机调换各方法答案的呈现顺序。

实验结果：HiRAG与五种基准方法在四个数据集、四个维度上的胜率对比，揭示了几个重要发现：1. 图结构增强RAG系统效能显著优于传统方法，NaiveRAG在各项指标上均显著落后，这主要归因于其缺乏对实体关系的建模能力，且上下文处理受限于LLM的token容量。2. 整合全局知识的方法（GraphRAG、LightRAG、KAG、HiRAG）在性能上显著优于仅依赖局部知识的FastGraphRAG，印证了全局知识对生成全面响应的重要性。

HiRAG的卓越性能在图增强型RAG系统中表现突出，在四个数据集和所有评估维度上均展现出最佳性能。这种优势主要源于两大创新：（1）通过分层索引（HiIndex）增强知识图谱中远距离语义相似实体的连接性；（2）通过分层检索（HiRetrieval）有效桥接全局概念抽象与局部实体描述。在Legal数据集上的特殊表现（54.5%综合胜率）进一步验证了该方法在法律领域复杂概念关联任务中的独特优势。

实验数据显示，HiRAG的性能优势具有领域普适性。在Mix数据集（综合胜率87.6%）和Agriculture数据集（综合胜率71.5%）的表现差异，揭示了该方法在跨领域知识整合与专业领域深度推理之间的自适应能力。在CS数据集上，HiRAG以73.5%的综合胜率显著超越GraphRAG（36.0%），这验证了分层知识表示对计算机科学领域复杂概念层级关系的捕捉能力。

Hierarchical KG vs. Flat KG

为验证分层知识图谱的有效性，通过消融实验将分层知识图谱替换为扁平知识图谱（标记为w/o HiIndex）。与完整版HiRAG相比，移除分层索引模块后，所有数据集和评估维度的胜率均出现显著下降，证实了分层索引机制对答案生成质量的关键作用。有趣的是，即使在使用扁平知识图谱的情况下，w/o HiIndex变体的表现仍优于GraphRAG和LightRAG等基线方法。这表明本文的三级知识检索机制（HiRetrieval）本身即具备显著优势——当其他基线方法仅依赖局部实体描述和全局社区报告时，w/o HiIndex通过引入桥接层知识实现了更优的知识整合效果。这种跨层级的知识桥接机制，即使在没有分层索引支持的情况下，仍能有效弥补传统图增强RAG系统在局部与全局知识协同方面的不足。

HiRetrieval vs. Gapped Knowledge

为验证HiRetrieval的有效性，我们构建了HiRAG的另一个变体版本（移除桥接层知识，记作w/o Bridge）。当缺失桥梁层知识时，各数据集和评估维度的胜率均出现显著下降，验证了局部层级知识与全局层级知识之间存在难以弥合的语义鸿沟这一核心问题。

案例实证：三级知识在查询响应中的协同作用：针对查询“请介绍亚马逊”，桥接层知识通过不同颜色标注的社区实体描述形成知识纽带。该机制使大语言模型能有效整合“亚马逊电商业务”（红色社区）与“亚马逊云服务”（蓝色社区）的跨领域信息，成功规避了传统方法中常见的知识断层问题。具体而言，桥接层中的路径连接（如“亚马逊→AWS→云计算”与“亚马逊→贝佐斯→零售战略”）建立了局部实体与全局概念间的语义桥梁，使模型能系统化梳理企业业务版图，避免因知识层级割裂导致的逻辑矛盾或信息遗漏。

Determining the Number of Layers

在分层知识图谱构建过程中，我们通过动态评估聚类质量来智能确定层次数量，而非预设固定层数。具体机制包含三个核心要素：

1. 聚类稀疏度指标（Cluster Sparsity, CS）：量化单层内实体的语义聚合程度。当某层出现大量小型聚类（极端情况每个聚类仅含1个实体）时，CS值趋近于1，表明语义聚合能力已达上限。
2. 变化率阈值机制：通过监控相邻层级间CS值的相对变化率，设置5%的阈值。当ΔCS<5%时，说明新增层次对语义聚合的增益已不显著，立即终止分层过程。
3. 语义枢纽验证：在工程实践中，同步检测高层次实体是否有效承担“语义枢纽”角色。当新增层次产生的摘要实体中，超过30%无法建立跨层语义关联时，即便未达阈值也提前终止，避免产生无效抽象层。

这种动态调整机制在四个基准数据集上表现出强适应性：法律文本平均形成4.2层，技术文档3.5层，农业领域2.8层，混合数据集3.7层。相比固定3层的基线模型，动态分层使F1值提升12.7%，同时减少27%的冗余计算。

Efficiency and Costs Analysis

为全面评估HiRAG的系统效能，我们系统对比了各方法在索引构建与检索阶段的Token消耗、API调用次数及时间成本。尽管HiRAG需要更多时间和资源进行索引构建以实现更优性能（如Mix数据集索引耗时17,208秒，相较GraphRAG的6,696秒有所增加），但值得注意的是，索引过程属于离线操作，采用DeepSeek-V3构建Mix数据集知识库的总成本仅约7.55美元。在检索效率方面，HiRAG展现出显著优势——与KAG（平均单次检索消耗89,746 Token）和LightRAG（平均3.06秒/次检索）相比，HiRAG的检索过程完全无需Token消耗，且平均响应时间控制在2秒以内。这种特性使得HiRAG特别适用于需要快速响应的在线检索场景，其高效的检索机制有效规避了传统方法在实时服务中的性能瓶颈。

数据进一步揭示：KAG在检索阶段存在显著的Token消耗问题（如Legal数据集单次检索平均消耗97,683 Token），这主要源于其复杂的逻辑形式引导推理机制。相较之下，HiRAG通过分层知识结构的预组织，将计算密集型操作前置至离线索引阶段，从而在在线服务时实现零Token消耗的高效检索。这种“离线深度处理+在线轻量检索”的架构设计，在保证回答质量的同时，显著降低了实时服务阶段的运营成本，为大规模商业部署提供了可行性。

Conclusions

本文提出了一种基于分层知识增强的检索增强生成框架HiRAG，通过创新性的分层索引（HiIndex）与分层检索（HiRetrieval）机制，有效解决了现有图结构RAG系统中存在的两大核心挑战。实验证明，HiRAG通过构建多层语义抽象的知识图谱，在索引阶段实现了语义关联与结构邻近的双重优化；通过全局-桥接-局部三级知识检索机制，在推理过程中成功弥合了不同知识层级间的语义鸿沟。相较于现有最佳基线方法，HiRAG在混合域、计算机科学、法律和农业等多个领域的问答任务中展现出显著优势，其生成的答案在完整性、信息量和逻辑连贯性等维度均取得突破性提升。尽管当前方法在索引构建效率方面存在一定局限性，但本文提出的动态分层终止策略和语义路径桥接机制，为下一代知识密集型RAG系统的开发提供了重要理论支撑和技术路径。后续工作将重点优化知识图谱的并行构建算法，并探索更高效的跨层级知识融合范式。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：HiRAG基于层级知识索引与检索的高精度RAG技术方案要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题