最成功公司的AI智能体很简单，99%人想复杂了

昨天，Anthropic——也就是推出 Claude 3.5 的那家 AI 公司——正式发布了一份关于智能体系统的最佳实践指南。可以毫不夸张地说，这份文档是当前市面上最值得反复研读的实操手册。来自顶尖人工智能企业的经验沉淀，相信能为你带来真正有价值的启发。 **LLM 智能体落地实战：避开 99% 的坑，只需这 3 个简单法则** 你是否也有这种感觉：如今“AI 智能体”概念铺天盖地，可真要动手落地，却不知从何下手？过去一年，我们与数十个不同行业的团队共同探索大语言模型（LLM）智能体的实际部署，发现一个很有意思的现象——**真正跑通的项目，用的都不是什么炫酷框架或复杂库，而是简单、可组合的模式。** 今天，我们就将从客户那里学到的、以及我们自己踩坑后总结的经验，拆开揉碎讲给你听——如何打造真正高效的智能体系统。 --- ### 什么是智能体？ “智能体”这个词，每个人的理解都不尽相同。一些客户认为，智能体是完全自主的系统，能够长时间独立运行，利用各种工具完成复杂任务；另一些客户则认为，智能体就是按预定义流程执行的系统。在 Anthropic，我们将这两类统称为**智能体系统**，但更注重区分**工作流**和**智能体**两种架构： - **工作流**：LLM 和工具通过预定义的代码路径被编排在一起。 - **智能体**：LLM 动态地指导自己的流程和工具使用，自主决定如何完成任务。 接下来，我们就深入聊聊这两类系统。在附录 1（“智能体的实践”）中，还会分享客户在两个领域使用这些系统取得的成功案例。 --- ### 何时用，何时不用智能体？ 用 LLM 开发应用，**越简单越好**。只有在必要时才去增加复杂度。这意味着，你可能根本不需要智能体系统——它通常以延迟和成本为代价，换取更好的任务表现，所以你需要权衡清楚。 如果确实需要更复杂的方案，那么： - **工作流**：适合处理定义明确的任务，提供可预测性和一致性。 - **智能体**：更适合需要灵活性和模型驱动决策的场景。 但别忘了，很多时候，仅仅通过检索和上下文示例优化单次 LLM 调用就足够了。 --- ### 框架，是蜜糖还是砒霜？ 现在市面上有很多框架能帮你快速搭建智能体系统，比如： - LangChain 的 LangGraph - 亚马逊 Bedrock 的 AI Agent 框架 - 拖拽式 GUI 工具 Rivet - Vellum（另一个用于构建和测试工作流的可视化工具） 这些框架确实能让你快速上手，简化了调用 LLM、定义解析工具、链接调用等底层任务。但它们也可能引入额外的抽象层，让你看不清底层的提示和响应，给调试带来麻烦。更关键的是，它们可能会引诱你增加不必要的复杂性。 **建议是：** 先直接用 LLM API 试试。很多模式其实几行代码就能实现。如果非要用框架，务必理解底层代码——对底层机制的误解，是客户翻车最常见的原因。 --- ### 从积木到智能体：核心模式大揭秘 接下来，我们来拆解生产环境中常见的智能体系统模式，从最基础的增强型 LLM 开始，一步步推演到自主智能体。 #### 基石：增强型 LLM 智能体系统的基础构件是增强型 LLM，它具备检索、工具和记忆等能力。现在的模型已经能主动使用这些能力：生成搜索查询、选择合适的工具、决定保留哪些信息。 这里有两个关键点值得关注： 1. **定制化**：根据你的具体用例定制这些能力。 2. **易用性**：为 LLM 提供简单、文档完善的接口。 实现这些增强的方法很多，比如通过我们最近发布的模型上下文协议，开发者可以借助简单的客户端接入不断扩大的第三方工具生态。  在后面的内容中，我们都假设每次 LLM 调用都可以访问这些增强功能。 #### 工作流：提示链 提示链把任务拆成一系列步骤，每个 LLM 调用处理上一步的输出。你可以在任何中间步骤插入编程检查（如下图中的“gate”），确保流程正常推进。  **何时用：** 当任务可以轻松拆成固定的子任务时，提示链是理想选择。它的核心目标是通过简化每次 LLM 调用的任务，用延迟换取更高的准确性。 **示例：** - 生成营销文案，然后翻译成其他语言。 - 编写文档大纲，检查大纲是否符合标准，再根据大纲写文档。 #### 工作流：路由 路由对输入进行分类，然后导向专门的后续任务。这种模式能实现关注点分离，构建更专业的提示。如果没有路由，针对一种输入的优化可能会损害其他输入的性能。  **何时用：** 当复杂任务包含可以单独处理的不同类别，并且你能用 LLM 或传统分类模型准确处理分类时，路由效果很好。 **示例：** - 把不同类型的客户服务查询（一般问题、退款、技术支持）分到不同的下游流程和工具。 - 简单/常见问题交给小模型（如 Claude 3.5 Haiku），困难/不常见问题交给大模型（如 Claude 3.5 Sonnet），优化成本和速度。 #### 工作流：并行化 LLM 有时可以同时处理同一任务，再通过编程方式聚合输出。并行化有两种主要形式： - **分段**：把任务拆成并行运行的独立子任务。 - **投票**：多次运行同一任务，获取不同输出。  **何时用：** 当子任务可以并行化以提升速度，或者需要多个角度或多次尝试来获得更高置信度时，并行化就派上用场了。对于包含多个因素的复杂任务，让每个因素由单独的 LLM 调用处理，往往比一锅烩效果更好。 **示例：** - **分段：** 实现安全防护——一个模型实例处理用户查询，另一个筛选不当内容。这比让同一个 LLM 同时干两件事更可靠。 - **投票：** 审查代码漏洞——多个不同提示分别审查，发现问题就标记。 #### 工作流：协调器-工作者 在协调器-工作者模式中，中央 LLM 动态分解任务，委派给工作者 LLM，然后综合结果。  **何时用：** 这种模式非常适合那些无法提前预测子任务的复杂场景（比如编码任务——需要改哪些文件、怎么改，取决于具体需求）。它和并行化的关键区别在于灵活性——子任务不是预设的，而是由协调器根据输入实时决定的。 **示例：** - 需要同时对多个文件进行复杂修改的编码产品。 - 需要从多个来源收集和分析信息的搜索任务。 #### 工作流：评估器-优化器 在这个模式里，一个 LLM 生成响应，另一个 LLM 在循环中提供评估和反馈。  **何时用：** 当有明确的评估标准，且迭代改进能带来可衡量的价值时，这个模式特别有效。两个判断指标：一是人类表达反馈后，LLM 响应能明显改善；二是 LLM 自己就能提供这种反馈。有点像人类作者在润色文档时的迭代过程。 **示例：** - 文学翻译——翻译 LLM 可能抓不住细微差别，但评估器 LLM 能给出有价值的批评。 - 需要多轮搜索和分析的复杂任务——评估器决定是否还需要继续搜索。 #### 智能体 随着 LLM 在理解复杂输入、推理规划、可靠使用工具以及从错误中恢复这些能力上的成熟，真正的智能体正在生产环境中涌现。智能体的工作从人类用户的指令或互动讨论开始，一旦任务明确，它就独立规划和操作，中途可能返回向人类确认信息或寻求判断。在执行中，智能体必须从环境中获取“真实反馈”（比如工具调用结果或代码执行结果）来评估进度。它可以在检查点或遇到障碍时暂停，等待人类反馈。任务通常在完成时终止，但一般也会设置停止条件（比如最大迭代次数）来保持控制。 智能体能处理复杂任务，但实现往往很简单——本质上就是在循环中基于环境反馈使用工具的 LLM。所以，工具集的设计和文档质量至关重要。在附录 2（“提示工程你的工具”）中，我们详细扩展了工具开发的最佳实践。  **何时用：** 智能体适合那些无法预知步骤数的开放式问题，没法硬编码固定路径。由于 LLM 可能会运行很多轮，你必须对它有一定程度的信任。它的自主性使其非常适合在受控环境中扩展任务。 但自主性也意味着更高的成本和复合错误的潜在风险。建议在沙盒环境中做大量测试，并采取适当的安全措施。 **示例：** - 解决 SWE-bench 任务的编码智能体——根据任务描述对多个文件做修改。 - 我们“计算机使用”的参考实现——Claude 直接操作计算机完成任务。 --- ### 组合和定制这些模式 以上这些构建模块不是死规定。它们是开发者可以根据不同用例塑造和组合的常见模式。和任何 LLM 功能一样，成功的关键在于衡量性能并迭代实现。再次强调：**只有当它能明显改善结果时，才值得增加复杂度。** 在 LLM 领域，成功不在于构建最复杂的系统，而在于构建**最适合你需求的系统**。从简单提示开始，通过全面评估来优化，只有发现简单方案确实不够用时，再考虑引入多步骤的智能体系统。 在实际实施智能体时，有三个核心原则值得遵循： 1. **保持简单**——智能体设计越简单越好。 2. **优先透明度**——明确展示智能体的规划步骤。 3. **精心设计 ACI（智能体-计算机接口）**——通过全面的工具文档和测试来打磨交互。 框架可以帮助你快速起步，但一旦进入生产阶段，不要犹豫——减少抽象层，直接用基础组件来构建。遵循这些原则，你就能打造出既强大、又可靠、可维护且受用户信任的智能体系统。