Agent小知识：为什么大家都在聊它？

你是否注意到，自2025年中期以来，“Agent”一词的出现频率持续攀升，大有取代自2023年起流行的“Chatbot”之势。

许多朋友在提及Agent时，通常会将其描述为“一个更智能的聊天机器人，能够处理更长的提示词、加载更多资料，并协助调用外部工具或编写代码。”

坦白说，这个理解相当准确，Agent确实比Chatbot更为强大。

然而，今天我们来探讨这一现象背后的实质性变化。抛开具体用法不谈，仅从系统设计角度审视，从Chatbot到Agent的演进实际上标志着一次范式转变：AI正从我们熟悉的“单次请求-响应模式”，迈向“基于目标驱动的自主控制循环”。

这究竟意味着什么？让我们从最基本的交互逻辑开始对比……

Chatbot：基于单次请求的单次响应模式

先从我们最熟悉的Chatbot入手。

从底层工程逻辑来看，传统Chatbot遵循标准的“请求-响应”模式。您输入一段提示词（请求），模型基于当前上下文进行推理，然后生成响应（回复）。

一旦响应生成完毕，该请求的生命周期便彻底结束。此时系统会挂起状态，静静等待您的下一次显式触发。

通常，我们与它的交互方式如下：

在这种模式下，Chatbot完全处于“被动”状态。每一次状态推进，都需要我们在聊天框中按下回车来触发。Chatbot本质上是一个具备语义理解能力的对话接口，擅长解释、总结和改写，但其工作流程在单次交互后便中断。

Agent：基于目标驱动的自主决策循环

与Chatbot“推一下动一下”的被动模式不同，与Agent交互时，您无需定义具体操作步骤，只需为其设定一个“最终目标”，剩下的工作将由它自主进入控制循环来推进。

举例来说，您向Agent提出一个目标：“排查当前分支CI测试失败的原因，并尝试修复它。”

面对同样的需求，Chatbot与Agent的处理路径截然不同：

• Chatbot的应对方式：受限于单次交互模式，它需要您手动复制并粘贴终端中的报错堆栈信息。它会分析报错原因，可能定位到具体行号，并提供修改建议，随后状态挂起，等待您手动修改代码后重新运行。

• Agent的应对方式：它会直接启动一个自主控制循环。

  • 观察与思考：读取CI系统日志，发现测试因数据库连接超时失败（dial tcp: i/o timeout）。

  • 行动：调用本地Shell工具，执行docker ps检查本地测试数据库容器状态。

  • 再观察与思考：发现数据库容器未启动，进而查看Makefile或docker-compose.yml脚本。

  • 再行动：发现脚本中某个环境变量配置错误导致容器启动失败，自主调用文件工具修改配置，并重新执行make test。

  • 再观察与思考：本地测试顺利通过。

  • 终态判定：确认问题已解决，自动提交代码变更，并向您输出一份结构化的排查与修复报告。

这里的关键在于：前一步的执行结果，会直接决定下一步的决策。

如果工具调用出错，例如执行docker ps时发现权限不足，Agent会自行捕获异常，尝试使用sudo重试或切换排查路径；如果发现报错日志不全，它会主动查询更底层的系统日志；如果判定本地测试已完全通过，它需要知道在何时终止循环并提交代码。

这就是大模型经典的ReAct（推理+行动）控制范式：观察 (Observe)⟶推理 (Reason)⟶行动 (Act)⟶再观察

正是在这一循环中，AI完成了第一次质变：从“生成一段文本”，转变为“自主推进一个完整的复杂任务”。

从研发视角看五大系统演进

当AI走向目标驱动的控制系统时，底层的后端架构设计与研发关注点也随之发生了深刻变化。

从单次对话交互到多步骤任务编排

Chatbot的一轮交互通常是标准的同步阻塞模式：您问一句，它答一句。而Agent面对的任务往往生命周期较长，难以通过单次模型推理完成。

看看这两个典型的长任务场景：

• 自动化修复Bug：包含读取源码 -> 运行本地测试 -> 捕获报错堆栈 -> 迭代修改代码 -> 重新跑测试，直至测试完全通过。整个过程是一个连续的闭环。

• 本地数据分析：包含读取本地异构表格 -> 动态生成并执行Python脚本 -> 渲染图表 -> 验证并校对统计结果。

此时你会发现，大模型本身在系统中仅扮演了“控制器（大脑）”的角色。而外围的工具链接口、有向无环图（DAG）或图结构的工作流编排、以及异常恢复机制，才共同决定了整个长任务能否顺利跑通闭环。

从用户反馈到环境反馈

在Chatbot模式下，回答质量主要依赖用户在前端输入文字进行纠错或补充。但Agent的反馈直接来源于其所处的实际运行环境。

例如，在日常的自动化流程中：

• 执行代码时：反馈是编译器的退出码和捕获到的堆栈报错。

• 调用接口时：反馈是HTTP状态码和返回的结构化JSON响应体。

• 操作浏览器时：反馈则是DOM树的节点状态变更。

真实的运行环境充满各种不可控因素——接口会超时、网络会抖动、权限会隔离、环境会变化。因此，在开发Agent系统时，工程上的难点往往已不再是如何优化Prompt，而是后端如何做好异常处理与容错恢复。

从自然语言到结构化动作

Chatbot输出的自然语言主要供人类阅读，要求语句通顺、逻辑合理。而Agent输出的内容，很大一部分需要供代码系统解析并执行。

当大模型决策执行“写入文件”或“调用外部API”等操作时，它必须输出极其精确的结构化数据，如标准JSON或特定的XML标签。工具的命名、参数的类型、甚至字段的格式，都必须与后端代码完全匹配，差一个字符都可能导致程序崩溃。

这也是为什么现在讨论Agent架构时，大家都绕不开编排层或Runtime。这层运行时要负责：解析模型的真实意图、安全地分发并调用工具、拿到工具回执后更新系统状态，同时还要卡死最大执行步数的上限。没有这层严密的工程外壳包裹，模型即便想法再完美，也根本无法在数字世界里稳定落地。

从简单上下文到状态与记忆

在Chatbot中，我们常说的上下文表现为一个线性递增的聊天记录窗口，每次对话直接将历史记录全部带上即可。但在Agent系统中，由于频繁的工具交互和长周期任务推进，产生的信息量呈指数级增长。如果仍沿用旧方法，很快就会撑爆大模型的Token窗口限制。

为解决这一问题，系统必须引入更工程化的状态管理与分级记忆机制：

• 状态：我们需要引入类似状态机的设计，清晰记录当前任务走到了哪个分支、哪些子任务已完成、哪些中间数据已就绪。

• 短期记忆：用于精准记录当前执行循环中，上一步工具返回的原始回执与执行上下文，供下一步推理直接使用。

• 长期记忆：通过向量数据库或图数据库，将全局的用户偏好、历史任务的成功路径进行持久化沉淀，并基于语义检索（RAG）在需要时按需加载。

从文本幻觉到行为风险与安全边界

Chatbot如果出错，表现形式通常是“幻觉”——即生成事实性错误的文本，或一本正经地胡说八道。其副作用基本局限于信息和文本层面，不直接引发系统破坏。

但Agent拥有了向外部环境施加影响的“行动权”，一旦出错，直接会导致高危的线上故障。

日常开发中，必须防范这些真实发生的行为风险：

• 误删或破坏服务器上的敏感文件或数据库记录。

• 错误调用接口，导致重复发送高昂费用的业务请求，或向用户发送成千上万条垃圾通知。

• 遭遇Prompt注入攻击，被恶意指令带偏，将系统内部的机密凭证或敏感数据泄露给外部第三方。

• 在执行循环中陷入逻辑死循环，一夜间默默消耗掉您成百上千美金的Token资产。

因此，Agent越被赋予自主行动的能力，系统就越需要建立硬性的安全边界。哪些高危操作必须引入“人在回路”的人工确认？最大重试上限和执行步数设置多少合适？对外的API权限如何做到最小化隔离？这些全都变成了硬核的系统安全设计与工程防线问题。

小结

归纳来看，两者在设计导向上存在本质区别：

• Chatbot面向会话过程：更侧重于单次生成的文本质量、语气是否通顺以及语义对齐。

• Agent面向最终目标：更侧重于长任务的最终达成率、执行路径的可控性，以及整个系统的鲁棒性。

如果将一套完整的Agent系统拆解来看，它必然由以下几个核心模块共同拼装而成：

1. 目标：明确定义任务的终态与判定标准，让系统知道何时该停下来。

2. 规划：任务的自主拆解、执行过程中的动态调度与自我反思能力。

3. 工具：让系统能够与外部数字世界交互的API、SDK或底层命令行。

4. 记忆与状态：工程化的上下文管理、多级数据沉淀与状态流转机制。

5. 边界：确保整个执行行为可预测、可审计，且能随时被强制熔断的安全框架。

所以，别被前端那个轻量级的聊天框所迷惑。聊天框不再是AI的全部，它仅仅是一个交互入口。真正让Agent能够稳定运转起来的，是入口背后那一整套与复杂、动态环境死磕的后端系统工程。

参考资料

• Haggai Roitman, The Hitchhiker’s Guide to Agentic AI: From Foundations to Systems, arXiv:2606.24937