基于RAG技术的大语言模型开发实践

人工智能的浪潮已经席卷而来，成为当前最具冲击力的技术变革之一。尤其是ChatGPT的横空出世，让大数据、大算力与大算法真正实现了深度融合，也让普通人第一次真切感受到AI的“神奇”。随着通用大语言模型（LLM）不断涌现，如何将LLM的能力落地到实际应用中，成为业界共同探索的方向。

高校的信息化建设一直有大量应用需求，将LLM能力与学校信息化结合，正是智慧校园建设的重要尝试。本文聚焦于如何利用RAG技术（Retrieval Augmented Generation，检索增强生成）基于通用LLM开发信息化应用。简单来说，RAG通过检索外部知识来增强LLM的能力，打个比方：这就像让LLM参加一场开卷考试——遇到不会的题目，就翻看提前准备好的“答案”，再根据答案来回答。这里的“答案”就是最新或内部的知识文件。

从技术上看，RAG将检索与生成两个任务有机结合，实现了更智能的信息检索。与传统检索技术相比，它能够更准确、更个性化地返回结果，同时生成与问题相关的解释或回答，大幅提升了效率和准确性。

LLM简介

大语言模型（Large Language Model，缩写LLM）具备对自然语言的理解、生成和处理能力，广泛应用于文本摘要、机器翻译、问答系统等任务。这里需要区分两个概念：LLM是指模型本身，而对话产品（如ChatGPT、文心一言等）是利用LLM能力开发出的用户服务。表1列出了中美部分代表产品和大模型。

但在实际应用中，LLM存在两大局限性：一是知识实时性问题——很多模型训练数据不是最新的，比如ChatGPT对近期事件往往无法准确回应；二是行业或单位内部知识缺失——例如学校的管理规定，LLM无从知晓，自然无法回答。

表1 主要的大模型和对话产品

利用RAG搭建智能问答系统

在高校信息化中，智能问答系统是常见应用，用以解答师生提问。传统做法基于关键字匹配知识库，问题表述稍有变化便可能匹配失败，根源在于系统没有真正理解语义。而结合LLM与RAG，恰好能突破这一瓶颈。

搭建基于LLM的RAG系统通常需要四个步骤：

第一步：文档加载及切片

首先对知识库文档按一定大小切片——无论是关键字检索还是向量检索，都是基于切片进行的。目前有许多成熟工具可轻松完成此操作。

第二步：文本向量化

文本向量（Text Embeddings）是将文本转化为一组浮点数，对应多维空间中的点。向量化后，可通过数学工具计算文本间的相似度（即向量相似度计算）。实际开发中，常直接使用LLM提供的向量工具，比如OpenAI的“text-embedding-ada-002”。

第三步：文档导入检索引擎或向量数据库

将切片后的文档导入检索系统：若用Elasticsearch，实现的是关键字检索；若用向量数据库，则实现向量检索。RAG的实现正是基于向量数据库检索。注意，向量数据库专为向量数据快速检索设计，不能替代传统数据库，且它本身不产生向量数据——向量由向量化工具生成。

第四步：封装检索接口

完成前面工作后，利用LLM接口（如ChatGPT 3.5的API）和Prompt模板完成最终回答。实际调用流程如图1所示。

图1 RAG工作流程

关键技术点

文本向量的计算

如图2所示，通过向量化工具获得文本向量后，如何计算文本相似度及向量距离？核心思路是构建正例（相关句子）与负例（不相关句子）的对比样本，通过训练双塔式模型，让正例间距离尽可能小，负例间距离尽可能大。常用度量方式包括欧式距离和余弦距离。

图2 文本向量化

向量数据库的选择

智能问答系统的效率很大程度上取决于向量数据库的检索能力。目前业界有众多向量数据库可选，具体对比见表2。

表2 主流向量数据库功能对比

RAG的不足

RAG结合了检索与生成的优势，能基于更广泛的知识库生成更准确、信息更丰富的结果，但仍存在一些短板。

首先，高度依赖外部知识库的质量与覆盖范围——若知识库信息不全或过时，生成结果可能不准确。其次，技术实施难度较高，整合检索和生成模型，尤其是向量数据库的部署，需要一定的技术水平和计算资源。最后，向量检索本身也有局限：有时最相关的答案在检索结果中排名并不靠前，这时可通过召回+重排打分来优化；对于包含较长专有名词的文档，向量检索可能不准，可采用混合检索（关键字+向量）来弥补。

随着计算能力和AI技术的持续提升，LLM的规模和性能将不断增强，未来应用会更加广泛，为人类提供更智能、更个性化的服务。可以预见，2024年将有一批基于LLM的应用在相关行业落地。至于如何将LLM与高校信息化建设深度融合，这仍需我们不断探索和实践。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：基于RAG技术的大语言模型开发实践要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题