大模型赋能企业知识库问答建设应用案例

数据资产的重要性大家有目共睹，知识管理自然就成了企业的“智慧灯塔”，指引着创新与效率的航道。但问题来了：在大模型时代，怎么才能真正把知识库问答系统建好、用好，让服务质量和运营效率都上一个台阶？

这次分享，重点聊聊大模型加持下的企业知识库问答建设，顺带也会给出一些实际落地的案例，供大家参考。

大模型爆发之后，企业服务确实迎来了一个大突破。以往要用AI解决个问题，门槛高、见效慢，现在使用门槛大幅降低，效率的提升也很明显。加上大模型本身带着海量的通用世界知识，创造力和知识储备都更完善，所以在很多场景下，效果确实比原来的小模型好不少。

不过话说回来，咱们现在看到的大模型问答产品，跟企业实际用起来，中间还是有几道沟要填。首先，每个企业都有自己的业务知识，怎么把这些个性化的东西跟大模型结合好、把企业自己的数据充分利用起来，这是个核心问题。其次，大模型能力再通用，也要面向C端用户做到真正的千人千面，这就得跟具体业务场景深度融合。另外，安全可信问题谁都绕不过去，还有ROI的考量——大模型训练和推理的消耗可不小，企业得算清楚这笔账，整体性价比是必须面对的。

基于这些情况，我们在知识库问答产品上做了一些定向的重设计。一方面，希望它能够更紧密地围绕业务场景，把知识和问答处理体系连接起来。另一方面，在安全可控上，我们接入了不少安全滤网方案，产品里也增加了许多可干预的手段。效果运营在问答产品里非常核心，业务效果调优更是重中之重。所以，运营方式也做了大变革，增加了基础运营和协同的能力。

最后，在大模型的人机交互层面，我们设计了更多不同场景的人设配置，生成交互的能力也有了更多考量。生成的语言也更加自然，交流起来没有机器味儿。

总的来说，要让大模型在企业里真正落地，有几个前置条件需要满足。第一，企业的数据资产是否健全、丰富。客服对话、会议纪要、产品说明书……这取决于企业自身的经营情况。一般来说，业务数据、代码类、文档类数据都是标配。

第二，是否具备完整的应用场景。不管是在客服、销售还是管理侧，企业内部每个岗位都有不同的工作流。每个岗位所需的问答、知识检索，是不是有特定的场景和工作流？知识储备够不够？这些条件如果没准备好，知识库问答落地就比较困难。

再来回到整套大模型下的服务产品本身。智能服务产品不只是一个对话机器人，它在服务域里可以衍生出很多产品。最底层是通义大模型，上层我们做了深度定制的对话大模型——基于海量对话数据、逻辑流程、代码数据融合设计出来的，具备多轮对话、知识溯源、不同Agent间的Planning能力，以及调用外部API的Plugin能力。这些是企业对接内部业务系统的基础。

再往上，就是服务域里的产品矩阵。第一块是对话机器人加知识库，企业可以把它打造成知识门户。这里面开放了很多能力，比如文档和网站的问答、NL to SQL的数据问答等等。

中间还有一层，除了机器人问答，在坐席跟用户对话过程中，我们有坐席辅助这类产品，帮助坐席回复得更高效、更高质量。还有培训、质检、销售分析、洞察评价、主题摘要等，都是来辅助运营和坐席人员提高工作效率的。

接下来是云呼叫中心产品，也就是智能联络中心。它是全渠道通信能力的集散地，无论用户通过网页、电话、信息，还是音视频、社交媒体进来，都能接得住。

到了最上层的应用层，不论什么渠道、什么模态进来的客户，都有统一的路由策略来做分发，实现千人千面，包括坐席筛选等策略。同时，还有AI Agent服务，对整个运营体系帮助很大。

再往后，是整个服务过程的监控和质量分析。比如销售团队要做线索分析，可以通过我们整个智能服务产品体系里的一个板块去分析。客户之声模块能检测所有对话中客户提到的品牌、产品、服务情况，或者有没有投诉，支撑客户趋势洞察等主题分析。

最后，企业管理者也可以监控员工服务表现、机器人服务数据，甚至可以自己设计Agent来服务自己，以便更全面了解员工和业务情况。

以上就是我们智能服务产品体系下的大致产品矩阵和应用场景。

知识库的问答链路涉及几个层次。首先，要把所有文档做好Embedding和Trunk。用户输入时，需要理解上下文关系，做改写，然后召回相关片段，再跟指令需求拼接，最后通过大模型确定答案。答案出来之前，还要过一道安全滤网，满足企业的安全要求。

我们在电商、零售、金融等行业做了不少客户，也有了一些实践。在一些特定领域，还微调了专属大模型来适配不同需求。这种知识库问答服务，在售前售后咨询助手、企业员工助手、知识查询助手这些热门板块上应用非常广泛。

大模型跟过去小模型时代的差异确实很大。小模型时代，问答机器人基本靠QA问答或表格，闲聊场景下还有专门的引擎，每个问题都得单独输出，还要对应相似问法来泛化。现在有了大模型，高强度的手工操作省了很多，只需要整理好数据、文档和业务流程，灌入库里，再把高频问答定义出来就行。

其次，小模型的回复比较固定和机械。大模型拥有世界知识，能理解人类意图，带来的对话体验更人性化。

最后，在运营层面，大模型方案下有很多可干预、可引导的措施，加上效果反馈机制来迭代模型，整个运营干预机制也比较完善，所以整体运营成本下降不少。

不过大家会发现，简单的问答场景测试完了没问题，但碰到复杂数据就容易出状况。比如PPT的阅读顺序和整体结构理解，如果切片顺序不对，或者理解本身有问题，整个PPT内容就会失去结构化信息。

还有复杂表格的理解，表头关系、无线表格分割、跨页合并等，对解析来说很困难。

多模态数据也一样，像图像内容或者数据统计结果，传统上依赖OCR解析，碰到复杂的柱状图、折线图，处理起来非常棘手。

针对PPT、表格、多模态数据这三种复杂场景，我们结合了VL能力、规则解析、OCR等多项技术，把已有的和更好的技术融合起来，输出结果后再做多路解析和融合，最终给出一个更合理的结果。

产品本身支持的一些能力，已经在实践中得到了验证。接下来分享几个具体案例。

先看政务领域。要服务好这个行业，首先要理解客户是什么行业、用户群体是谁、期待是什么。

政务的对话问答机器人，在线链路包括用户输入经过Rewrite模块、检索模块、排序模块，最后是Prompting和大模型生成。离线方案则是先收集政务数据，整理结构化，做Embedding解析切分，然后挑选海量高质量数据来设计专属大模型。

政务数据的来源非常多：政府官网、工作规范、内部政策文件库、客服知识库、工单信箱、一网统管事项库等。这些数据量多、内容杂、专业性强。光一个事项库的知识就可能有十万、百万级别的数据量。

知识库复杂度也很高，不仅是事项库的理解，政策文件、事项办理等不同数据之间还有关联。比如事项库对应什么政策、怎么办理……数据来源不同但互相关联，而且政策不断更新，还存在打补丁的问题。

政务对专业性的要求特别高。很多时候，政务问答希望给老百姓的不是随意的口头表达，而是专业、权威、标准的结果，同时又要让老百姓听得懂。客户的诉求就是既要专业，又要接地气。

我们做了很多治理工作。比如针对数据量大，按业务优先级保留跟用户相关的字段，冗余或低频的先不处理。文件跟主题相关性强的，会设置关键字、去除特殊符号来提升检索效果。常见问答单独建一个QA库，确保核心业务稳定、答案绝对正确。

文档处理上，我们做了分段补充层级、建立关联关系，用Markdown多层结构构建文档图谱。复杂内容做图表转化，变成有利于大模型理解的格式。还做了业务标签，方便知识筛选和持续运营。专业词汇做了同义词等实体处理，增强大模型对意图的理解。

以上就是政务领域做的知识处理工作，目的就是让大模型更好地理解和使用这些数据。

有了方案、理解需求、做完知识处理之后，下一步就是确定评测标准。

在大模型时代，评测标准非常关键——怎么定义好和不好，怎么评估好坏。这里面有几个要素。一是评测方案要明确目的性：用户的提问能否准确回答、是否人性化、有没有亲和力等。这些要在前期明确，然后转化为具体的评价维度，不能主观说“回答是否人性”，而要可量化。比如单轮对话满意度怎么给，多轮对话怎么衡量。

构建评测集也很重要，包括采样来源、多样性、覆盖率。数据来源广、服务群体广，就得考虑人群多样性和数据多样性。最重要的是用户的提问方式和问题类型要尽可能全面覆盖，这样的评测集才相对客观，更能拟合上线的需要。

最后是标注和统计。标注时根据大模型给出的期望结果，给出标注结果和统计指标，最后确定什么情况可以上线。

有了评测标准，接下来就是具体实施。因为产品是现成的，知识方面前期需要做很多处理。处理完后，进行知识配置，包括文档导入、设计创客规则，有语料的话还可以做增强。

Prompt配置也很关键，因为大模型输出结果的好坏很大程度上受Prompt影响。这里面涉及机器人的人设、要完成的事情、使用的工具、输出要求等。相当于要清楚理解今天机器人的定位、人设定位、服务群体，明确回答什么、不能回答什么，过程中是否要用特定工具或调用具体接口，最后输出格式等。这些需求要一条条列清楚。

关于问题排查。一个问题处理的过程，必然是先观察现象，再定位，最后排查原因。知识库问答体系链路比较长，包括解析、改写、召回、排序、生成几个主要环节。每个环节都需要定位，这是一个正向链路。

排查问题时，从后往前推。如果结果不符合预期，先看生成环节的问题排查，检查Prompt拼接结果里是否召回了正确答案，答案是否有缺失。如果答案没缺失但答非所问，说明大模型生成环节有问题。如果Prompt拼接的召回片段里没答案，就要往前看排序环节，答案是否排得不够靠前。如果排序正常，再看是否有召回——可能根本没召回到。就这样一层层往前排查，确定出问题的环节再解决。

问题定位之后，在方案层面有几种改进方向。

业务策略上可以制定很多方案，比如文档的增删改查。筛选优质对话示例让大模型学习，区分不同的Agent来处理不同业务，让单个Agent更聚焦。或者做业务分层，不同渠道绑定不同知识库，让知识更纯粹不互相缠绕。

工程链路上也能做大量优化，算法上也可以做一些调优。

最后简单介绍几个客户场景。

在头部游戏客服场景，利用大模型解答玩家问题，减少客服部门的工作负担。目前测试准确性基本在90%及以上。

在某AI教育智能硬件上，我们也应用了知识库问答。通过百炼的Rag知识库，面向儿童设定中国古代故事的人设，用拟人方式给孩子讲经典故事。孩子会跟它交互，它也能输出孩子关心的结果，整体调用量很大。

然后是汽车车书问答。汽车型号多、参数多，是非常典型的知识文档。我们实现了汽车知识问答的Agent，整体效果很不错。

最后，在直播非常多的零售行业，我们做了商品搜索推荐。通过用户的Query召回商品列表，方便主播后台的客服人员做商品推荐。

以上是这次关于知识库问答应用与实践的分享。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：大模型赋能企业知识库问答建设应用案例要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题