同城如何运用RAG与Tool Use技术强化AI能力

在人工智能技术飞速发展的今天，智能助手的应用场景正以前所未有的速度扩展——从B端商家服务到销售培训，再到大数据分析，几乎无处不在。这篇文章要聊的，是58同城在实际业务中如何落地这些技术，包括招聘助手、销售陪练是怎么设计出来的，以及知识库管理和工具调用对智能助手性能的影响。通过这些真实案例，你会看到AI技术是如何切实提升工作效率、优化用户体验，并推动企业数字化转型的。

主要围绕这几块展开：业务背景、AI Agent的核心技术与挑战、RAG和Tool Use的实战经验，以及总结展望。

业务背景介绍

智能体（Agent）技术正成为AI能力增强的关键驱动力，尤其是RAG（检索增强生成）和工具调用能力的配合，让自动化和决策水平上了新台阶。58同城作为一个生活服务平台，核心目标就是打通企业用户和消费者之间的沟通链路，帮助用户更快、更聪明地搞定复杂业务流程。

具体来说，两条业务主线很清晰：

第一条，为B端商家和C端用户搭建高效的信息交流渠道。招聘、房产交易、二手车买卖……这些事在平台上都能完成，用户通过在线沟通工具快速联系商家。此时，智能体技术就能在海量信息中帮用户精准匹配需求，提升搜索和决策效率。

第二条，推动流程的产业化和数字化。AI技术帮助用户在线办理房产、招聘、汽车等业务，减少人工操作，提升效率和体验。智能体不仅能做知识检索、自动化操作，还能通过实时数据同步和决策增强体验。

58同城的AI平台将AI技术与实际业务场景无缝融合，通过算力平台、基础平台、应用平台三大模块支撑智能化转型：

AI算力：提供强大的硬件基础，支撑模型训练、推理和大规模数据处理。

AI基础平台：汇聚了图像识别、语音处理、大语言模型（LLM）、多模态模型等多种算法。不同技术针对不同场景，提供预训练与微调方案，支持智能对话、图像生成、3D建模等应用。这些算法通过强大的计算引擎进行离线训练、在线推理和混合处理，确保高效运行。

AI应用平台：重点支持企业级应用的定制化开发，包括智能客服、虚拟助手、图像和视频生成等。智能体利用知识库与工具调度能力，能自主完成复杂任务链，让企业在客服、运营等场景中更智能。这个平台最大的优势在于能根据不同行业和企业需求，提供定制化的AI应用方案，大大加快了AI落地速度。目前AI技术已经广泛应用于销售、客服、产品、运营、办公等多个场景，渗透到企业全流程。

我们还推出了垂类大语言模型“灵犀”，已通过国家网信办备案。这个模型基于58同城生活领域的数据，结合开源大模型的通用能力，通过微调、对齐等技术，在房产、汽车、本地服务等领域做了优化。产品层面，AI平台不仅提供灵犀大模型的API，还支持文心、智谱、百川等商用大模型API，进一步扩展了应用边界。

为了推动AI应用落地，我们还搭建了AI Agent平台，支持开发者创建基于AI的智能机器人。背后是RAG和工具调用能力的深度研究——RAG技术让模型能更好地处理复杂信息，弥补大模型固有知识的局限，通过知识库快速更新和检索，让智能体实时获取最新信息，满足用户多样化的需求。

目前，大模型技术已经渗透到58同城内部超过70个业务和场景。

AI Agent 核心技术与挑战

1. AI Agent 概述

AI Agent的核心大脑是大模型，大模型的能力决定了Agent的智能程度。通过定义Agent的角色，可以让它偏向使用某些类型的工具，也可以给它设定总目标。

如果把Agent Core比作大脑，那么Planning Module就是大脑皮层，负责所有思考活动——通过CoT（思维链）、GoT（思维图）、ReAct（推理+行动）等技术，让Agent能反思、自我纠正，还能把问题拆解成更细的子问题。

Tools模块是提前定义好的工具流，用来执行各种复杂任务。

Memory Module（记忆模块）也特别关键，它让Agent通过上下文来预测下一步动作和期望结果。记忆分短期和长期：短期记忆是几分钟内的对话，长期记忆则是几周甚至几个月的历史。

2. Agent 核心技术

GPT-4以来，大模型带来了很多惊喜，但问题也不少。最常见的幻觉——输出与事实不符；知识覆盖不足——数据集再大也难覆盖所有领域；数据安全——通用大模型没有企业内部数据，出于安全考虑，数据通常放在本地；时效性——模型训练完后，数据更新无法及时反应到知识库里。

要解决这些问题，就得靠RAG技术。给大模型挂载文档（比如私有知识库），然后解析、切片、向量化，保存到向量数据库。用户输入时，按需切片、向量化，到知识库检索，对top K结果重排，找到最相关的N个内容，再和用户原始输入拼在一起，交给大模型汇总输出最终答案。

工具使用这块，大模型根据用户输入和API的元信息，判断该不该调API。

(1) RAG

来看RAG涉及的一些技术细节。

文本数据处理主要靠“增强”和“分块”两步。增强部分，可以对用户问题进行拆解、改写、关键词提取。例如用户问“wuxian怎么交”，这里的wuxian是英文，与中文“五险”的向量表示完全不同，所以需要改写补充。分块部分，可以按特定分隔符切，也可以按语义切；对多模态数据，会把图片、表格的标题或相关注释分在一起。

检索分单轮和多轮。单轮检索常用BM25、Bert等嵌入模型，把用户query和知识库向量化后检索。如果知识库里没有相关信息，就用假设性文档嵌入（HyDE），让大模型生成一个假设回答，再和知识库文档比较，找到最相关的。也可用混合检索，提升效率和效果。多轮检索比如长篇问答、多跳推理、思维链推理，仅靠用户原始输入不够时，就得靠下文介绍的两种方法。

检索后需要重排。文本向量化过程中会丢失一些信息，降低匹配精度，尤其面对复杂文档时，细微差异可能捕捉不到。重排就是对筛选出的文档精排，提供更准确的排序结果。

下面介绍两种处理多轮检索的方法：FLARE和DRAGIN。

第一篇是卡内基梅隆大学和Meta联合推出的FLARE（前瞻性主动检索增强）。传统RAG只在模型开始生成时查一次，FLARE则是在生成过程中不断检索，核心有两种模式：FLAREinstruct（指令模式），模型生成特定标志时触发检索；FLARE Direct（直接模式），根据生成token的置信度，对低置信度的进行检索。

另一篇是清华大学发表在ACL2024上的DRAGIN。它同样对生成token做判断，结合token的熵、最大注意力和停止符这三者计算出一个综合值，超过阈值就触发检索。

RAG能解决知识覆盖和安全问题，但实时性问题还需要调用工具来处理。

(2) Tool Use

调用工具的方式有单步和多步，在此基础上还可以并行调用。实现方式包括Function Call、ReAct，以及类似LangChain的插件形式。

单步调用是最基础的。智能体通过一次API请求获取数据，立即返回结果。如果回答需要调用多个工具，为了减少等待时间，就采用并行调用。

在更复杂的任务中，单次调用不够用，多步调用就能通过一系列有逻辑顺序的调用逐步完成任务。例如查询去年英伟达的财报并画成图——第二个API要依赖第一个API的结果，所以调用有先后顺序。

Function Call的流程如上图：用户输入和API元信息喂给大模型，大模型判断是否调用API、调用几个，后端执行后把结果返回给大模型，结合用户原始输入给出最终答案。

Function Call好处是快，但处理多步调用和API顺序时不太行。所以有了ReAct。

ReAct模仿人类处理问题的思维和行为，把推理和行动结合起来。CoT可以让输出有理有据，但受限于大模型自身知识，容易产生幻觉；ReAct结合思考和行动，能提升准确性。

ReAct流程中，单步调用与Function Call类似，只是多了Tool Plan这一步（大模型的思考）。多步调用中，增加了对调用结果的排序，还会多次询问用户缺少的API信息，直到Agent觉得可以准确回答为止。

上图是一个真实案例：我们希望Agent能同时调用两个链接的API，然后把结果汇总。要求模型不能有幻觉，还要准确理解用户意图并调对工具。

工具结构如上图，包括工具名、描述、参数、参数类型、参数描述和必填信息。我们在主流模型上测试过，没有prompt优化的情况下，即使GPT-4-Turbo也有输出不理想的时候——参数调了但没提供必填项。Doubao-Pro-32k完全没理解意图，只有moonshot-v1-8k输出了正确结果。可见这些模型在工具调用上不稳定，想提高稳定性就得不断微调或加数据，但很费时间和资源，所以我们用了一个较小的模型来完成。

我们用一个7B的base模型训练了一个工具调用模型ChatLing-Tool，能准确理解用户意图并输出工具参数。因为业务指令数据稀缺、人工标注成本高，我们采用了合成数据。

评测数据集：

第一版用过滤后的中文评测集，735条对话，每轮对话1到3个工具，参数不超过3个。以千问27B为基准，各模型差异不大。

第二版新增了1到4个工具、1到12个参数，还加了50条需要并行调用工具的对话。结果显示豆包和千问27B表现下降，而ChatLing-Tool不弱于GPT-4。

新数据构建：重新构建数据，确保工具对模型来说是全新的。

单个工具多次调用：构建305条数据，每轮包含多个工具，需多次并行调用，参数1-7个。ChatLing-Tool表现良好，优于72B模型，而7B和豆包较差。

普通多工具调用：每轮多个工具，模型根据输入选择。各模型表现都不错，差距不明显。

多个工具并行调用：例如查财报并画图。GPT-4最佳，国内模型效果也可以，但豆包和千问27B较弱，ChatLing-Tool表现良好。

3. Agent 方案设计

文档解析能力：方案能智能解析Word、PDF、Excel等多种格式，支持查询和修改的问题拆解，实现高效的多路索引和召回。

RAG模型与工作流支持：提供多种内置RAG强化模型，用户可在AI平台上制定工作流，灵活应对复杂业务。处理流程示例：用户问“黑神话结局”，智能体会改写补全，如果自信能回答就直接返回；不确定就调知识库或API查询，再结合原始问题回答。

自定义与可视化功能：AI平台支持用户自定义插件，定义工具参数和描述。同时支持可视化Agent的思考过程、多轮会话和向量检索。

RAG 和 Tool Use 实践

AI平台支持用户自定义Agent插件，定义工具参数和描述即可。还提供了自定义工作流、思考过程可视化，以及多轮会话和向量检索。

以下是几个真实应用案例。

1. B端商家智能聊天助手

职位招聘：求职者点击聊天后，智能助手根据职位信息生成问题，并提供选项让求职者选择。助手识别用户意图，通过知识库汇总信息回答求职者疑问。

房源信息查询：用户找到房源后点击微聊，助手通过知识库回复关于房源的询问。

2. 销售场景

新人培训：针对电销新人，智能助手用于话术和技巧培训，目标是降低培训成本和新人开单压力，提高留存率。

智能陪练：销售通过语音和机器人对话，模拟真实销售场景进行练习。对产品知识不熟悉时，可通过助手查询相关信息。

实时订单跟踪：助手支持销售实时跟踪业务进展。

3. SQL 智能助手

结合大数据平台和AI模型，实现SQL总结、纠错、生成和智能问答，帮开发人员解决工作中的问题。

4. 美事智能助手

面向全公司，集成消息总结功能，支持快速约会议室、链接查询，利用RAG+Tool Use提升整体效率。

总结与展望

RAG和工具调用的结合，让智能体在面对复杂业务流程时表现出了前所未有的自动化和智能化水平。RAG增强了知识检索和实时性，工具调用则让智能体能灵活完成多步骤复杂任务。

接下来，我们将深入探索GraphRAG，并尝试一次性生成完整的工具调用。随着大语言模型技术的进一步发展，智能体将在更多领域落地，帮企业实现更高效的智能化转型。

以上就是本次分享的内容，谢谢大家。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：同城如何运用RAG与Tool Use技术强化AI能力要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题