上下文工程：系统性构建可落地AI Agent的方法论

硅谷大神Andrej Karpathy，在今年6月一场主题为“Software in the Era of AI”的演讲中指出：与其构建很多自主Agent的炫目Demo，不如更多构建半自主产品。是的，AI应用的最大价值之一，其实恰恰是“确定性”。上下文工程（Context Engineering），其使命正是为了不断将LLM的“概率性”，最大程度优化为“确定性”。说人话，就是让以AI Agent为代表的Apps，可落地，更靠谱。

从“简单提示”到“认知空间”

在构建可落地AI Agent的实践中，我们的视角必须超越单一的“提示工程”。

正如 Andrej Karpathy 所言，如果大型语言模型（LLM）是新时代的“操作系统”，那么它的上下文窗口（Context Window）就是“内存（RAM）”，作为模型的工作记忆。上下文工程（Context Engineering）正是这样一门“精妙的艺术与科学，旨在为LLM的上下文窗口精确填充下一步所需的恰当信息”。

一个精心设计的上下文，可以显著提升Agent的任务解决能力、降低运营成本，并规避性能退化问题。你的AI有多强大，最终取决于你为它构建的上下文有多精良。

核心挑战：长上下文的“四宗罪”

通常，Agent会交替执行LLM调用和工具调用，用于执行长时间运行的任务。当Agent执行长耗时任务时，其上下文会不断累积，这不仅会超出窗口限制、增加成本与延迟，更会引发一系列性能衰退问题。

这些问题可以归结为长上下文的“四宗罪”：

• 上下文中毒 (Context Poisoning): 当一次错误的生成（幻觉）被写入上下文后，它会像毒药一样污染后续的每一步推理，导致Agent偏离正确的轨道，最终得出错误结论。
• 上下文干扰 (Context Distraction): 当上下文中充斥了大量信息时，即使这些信息都是正确的，也可能压倒模型在预训练阶段学到的核心指令或能力，使其“分心”，忘记了最初的目标。
• 上下文混淆 (Context Confusion): 当上下文中包含了与当前任务不相关，但形式上又可能产生关联的冗余信息时，模型会被这些“噪音”所迷惑，从而影响其决策的准确性。研究发现，即使是像“猫一生中大部分时间都在睡觉”这样的简单短语，也会大大破坏先进的推理模型，使其错误率增加三倍。【参考论文：《Cats Confuse Reasoning LLM: Query Agnostic Adversarial Triggers for Reasoning Models》】
• 上下文冲突 (Context Clash): 当上下文中的不同部分包含了相互矛盾或不一致的信息时，模型会陷入决策困境，不知道应该相信哪一部分，导致行为的不可预测性。

管理上下文，本质上就是管理AI的注意力与记忆力，是构建可靠Agent的基石。

四大支柱：上下文工程的实现策略

为应对上述挑战，业界已发展出四种核心的上下文工程策略，堪称四大支柱：写入（Write）、选择（Select）、压缩（Compress）和隔离（Isolate）。

支柱一：写入 (Write) - 构建Agent的外部记忆

定义： 将信息从即时上下文窗口中移出，保存至外部存储，为Agent构建一个超越单次交互的持久化信息基础。

1.1 便笺

• 目的： 在Agent的单个任务会话（Session）内持久化中间状态和思考过程。
• 机制： Agent在执行任务时，将中间的思考、计划或关键发现写入临时存储（如文件或运行时状态对象）。这确保了Agent的“思考链”不会因为上下文长度限制而中断。便笺的实现方式多样，可以是一个简单地写入文件的工具调用，也可以是会话期间持续存在的运行时状态对象中的一个字段。
• 应用： Anthropic 的multi-agent研究表明，主Agent（LeadResearcher）会将任务规划写入“记忆”（即便笺），以防止上下文窗口超出200,000个token时被截断。LangGraph 的检查点（Checkpoint）机制也是这一理念的技术实现。

1.2 记忆

• 目的： 实现跨会话的信息持久化，使Agent能够从过去的交互中学习。
• 机制： 通过“读取-更新-写入”循环，结合新旧信息，利用LLM自身能力生成更新后的记忆，并写回长期存储。
• 应用： Reflexion 框架引入了在每次Agent回合后进行反思并重用这些自生成记忆的理念。Generative Agents 则创建了定期从Agent过去反馈集合中合成的记忆。这些概念已融入流行的产品，如 ChatGPT 的自定义指令、Cursor 和 Windsurf 的规则文件。

支柱二：选择 (Select) - 给予Agent此刻最需的洞察

定义： 从外部存储中，智能地检索与当前任务最相关的信息，并将其动态载入LLM的上下文窗口。

2.1 从记忆/便笺中选择

• 机制： 选择便笺上下文的机制取决于其实现方式。如果它是一个工具，Agent可以通过调用工具来读取。如果是Agent运行时状态的一部分，开发者可以选择在每个步骤中向LLM暴露状态的哪些部分。对于大规模记忆，通常采用向量检索或知识图谱进行查询。
• 挑战： 选择的艺术在于“精准”而非“丰富”。在AI Engineer World's Fair 上，Simon Willison 分享了一个案例：ChatGPT 从记忆中获取了他的位置，并意外地注入到请求的图像中。这种意外的记忆检索可能会让用户感觉上下文窗口“不再属于他们”！

2.2 从工具 (Tools) 中选择

• 机制： Agent使用工具，但如果提供的工具过多，它们可能会不堪重负。一种方法是对工具描述应用RAG思想，仅为任务获取最相关的工具。
• 效果： 一些最新研究表明，此方法能将工具选择的准确率提升高达3倍。例如，LangGraph 的 Bigtool 库正是通过对工具描述进行语义搜索来实现工具选择。

2.3 从知识 (Knowledge) 中选择

• 机制： 这是最经典的 RAG 场景，通过检索外部知识库为Agent提供事实依据。
• 挑战与实践： RAG 是一个丰富的话题，对于复杂知识的检索，需要多层次、多模态的混合策略。

支柱三：压缩 (Compress) - 在信息保真度与成本间取得平衡

定义： 在保留核心信息的前提下，对上下文进行精简，以减少token消耗、降低延迟。

3.1 上下文总结 (Context Summarization)

• 机制： 利用LLM自身能力，将冗长的信息提炼成摘要。
• 应用： 可用于对全局轨迹进行总结（如 Claude Code 的“自动压缩”功能），也可用于对局部信息进行后处理。
• 挑战： 总结是有损压缩，关键细节可能在提炼中丢失。Cognition 公司甚至为此步骤专门微调模型，这凸显了其难度与重要性——在信息保真度与压缩效率之间取得平衡，是上下文总结的艺术所在。

3.2 上下文裁剪 (Context Trimming)

• 机制： 与总结通常使用LLM提炼最相关的上下文片段不同，裁剪通常采用更直接的、基于启发式规则的过滤方法，如移除最旧的消息，或使用一个训练好的模型来“修剪”无关信息。

支柱四：隔离 (Isolate) - 为专注与安全划分认知边界

定义： 通过逻辑或物理方式划分上下文，帮助Agent更专注地处理子任务，或在安全环境中执行操作。

4.1 Multi-Agent架构

• 机制： 将复杂任务分解，分配给拥有独立上下文的多个子Agent并行或串行工作。OpenAI Swarm 库的动机之一就是关注点分离，每个Agent拥有自己特定的工具集、指令和上下文窗口。
• 优势： Anthropic 的multi-agent研究表明，具有隔离上下文的多个Agent在性能上往往优于一个处理庞大上下文的单一Agent。
• 挑战： 多Agent架构的挑战包括token使用量（Anthropic 报告称可能比聊天多达15倍！），需要精心设计的提示工程来规划子Agent的工作以及子Agent之间的协调机制。

4.2 通过环境进行隔离

• 机制： 让Agent（特别是代码Agent）在一个沙箱（Sandbox）环境中执行代码，仅将摘要式结果传回给LLM。HuggingFace 的 Deep Researcher 展示了通过 CodeAgent 和沙箱隔离上下文的例子。
• 优势： 这允许上下文在环境中与LLM隔离，是隔离token密集型对象的绝佳方式：“代码Agent允许更好地处理状态……需要存储此图像/音频/其他以供以后使用？没问题，只需将其作为变量分配到您的状态中，稍后使用它。”这极大地节约了上下文空间。

4.3 通过状态对象进行隔离

• 机制： 在Agent的运行时状态（State）中定义结构化模式，仅将部分字段暴露给LLM，从而在架构层面实现轻量级的上下文隔离。
• 优势： 状态对象可以设计为具有特定模式的字段，只有部分字段在Agent的每个回合中暴露给LLM，从而实现更具选择性的使用。这与沙箱的目的相同，但提供了一种更轻量级的、架构层面的上下文隔离方式。

结语：请成为「上下文架构师」

上下文工程正在成为构建高阶AI Agent的核心技艺。它要求我们从一个单纯的“提问者”或“提示工程师”，转变为一个深思熟虑的“上下文架构师”。

系统性地运用写入、选择、压缩、隔离这四大策略，去主动设计和管理AI的认知空间。这不仅是技术的挑战，更是思维模式的转变。

未来，最强大的AI Agent，必定与最优秀的上下文架构师密不可分。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：上下文工程：系统性构建可落地AI Agent的方法论要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题