上下文工程爆火唤醒大模型心智AI智能体落地关键
先说个核心判断:大语言模型的能力上了一个新台阶之后,AI智能体正从纯粹的聊天对话,迈向更复杂的多轮推理、多工具协同和长期任务执行。而支撑这场演变的幕后推手,是一个技术门槛正在迅速提高的新领域——上下文工程(Context Engineering)。继“Vibe Coding(氛围编程)”风靡之后,A
先说个核心判断:大语言模型的能力上了一个新台阶之后,AI智能体正从纯粹的聊天对话,迈向更复杂的多轮推理、多工具协同和长期任务执行。而支撑这场演变的幕后推手,是一个技术门槛正在迅速提高的新领域——上下文工程(Context Engineering)。
继“Vibe Coding(氛围编程)”风靡之后,AI圈又迎来一波新的技术浪潮。这次点火的是前特斯拉AI总监、深度学习领域的布道者Andrej Karpathy。他在一次演讲中说得非常直接:“如果你想真正掌控一个大语言模型的行为,不要花时间去微调权重,去控制它的‘心智世界’——也就是你输入给它的上下文。”

在构建AI智能体的过程中,“上下文”绝不仅仅是几个提示词的简单堆砌。它是构成智能体“认知宇宙”的核心素材。它决定了模型当前能“看到”哪些信息(比如任务指令、外部知识、历史轨迹),也决定了模型“如何看到”(信息是否结构化)、“何时看到”(是静态注入还是动态更新)。
Karpathy有一个很形象的比喻:LLM是新的计算平台,模型本体好比CPU,而上下文窗口就是RAM。你不可能每次遇到新任务就去重新训练模型,但你可以通过上下文工程,来控制它“思考的材料”。
这个全新的工程范式,就是上下文工程(Context Engineering)。简单来说,这是一门集艺术与科学于一身的学问,核心目标是高效地填充LLM的上下文窗口,确保它在执行每一步任务时,手头恰好有“刚刚好”的信息量。这不仅涉及信息的选择、组织和注入方式,还要考虑上下文的动态性、可扩展性和准确性。
具体到AI智能体的构建,涉及的上下文类型大致包括:
指令:提示词、少样本示例、工具的描述、系统角色的设定等;
知识:结构化事实、通过RAG注入的外部知识库、或者模型自身的语义记忆;
工具反馈:函数调用的结果、API返回值、插件响应等中间结果;
历史轨迹:对话历史、用户输入记录、智能体执行过的策略路径。
这里有个现实问题:LLM的上下文窗口资源始终是有限的,就算现在扩展到了百万tokens,也依然有边界。如果不加选择地把所有信息都塞进去,结果只会是成本上升、响应延迟、性能下降,甚至加剧幻觉。所以,对上下文的管理和设计必须有一套系统化的策略。
四大上下文工程策略详解:写、选、压缩、隔离
1. 写上下文(Write Context)
写上下文,简单来说就是把关键任务信息保存在上下文窗口之外,但又能被模型间接利用。这就像人类会“写便签”、“做笔记”一样。
便签(Scratchpads):Anthropic的研究表明,AI智能体通过工具调用或状态字段记录计划信息,能有效帮助自己在长任务中持久化策略、参数或状态。比如,研究人员把超过20万tokens的长任务拆解成阶段性步骤,并通过便签记录每一阶段的决策,成功避免了窗口溢出。
记忆(Memory):智能体可以自动从多轮对话中提取高价值事实(语义记忆)、行为流程(程序记忆)和案例轨迹(情景记忆)并长期保留。ChatGPT、Cursor、Windsurf等产品都已经集成了这个机制,用来实现“个性化响应”。比如ChatGPT能记住用户的写作风格和工作场景,并在后续对话中主动融入。
2. 选上下文(Select Context)
选上下文,就是把最相关的信息拉进当前的上下文窗口。这是上下文工程里最具动态性的部分,覆盖了便签、记忆、工具和知识四种维度:
记忆选择:像Claude Code使用CLAUDE.md文件、Cursor使用config rules,这些都是始终注入的规则性知识。而对于海量的语义记忆,ChatGPT会结合知识图谱和向量索引来过滤调用内容,但这也存在“意外注入”的风险——比如Simon Willison就曾遭遇AI自动泄露位置信息。
工具选择:当大模型面对多种工具时,描述相似的可能会让模型产生混淆。RAG-MCP架构通过把工具说明索引入库,只检索与当前任务相关的工具描述。实验数据表明,这种策略能让工具选择的准确率提升3倍。
知识选择(RAG):以Windsurf为例,它的代码RAG架构并不是简单的文本嵌入,而是结合了AST分块、语义重排、多源索引等多种手段,能在千万行代码中快速定位到与任务相关的逻辑模块。这大幅提升了智能体响应的专业度。
3. 压缩上下文(Compress Context)
压缩上下文的目的是精简冗余的tokens,主要通过“摘要”和“修剪”两种方式实现:
上下文摘要(Summarization):Claude Code会在上下文窗口使用率达到95%后,自动对对话轨迹进行总结,然后替代原内容注入。可以采用递归摘要、层次摘要等策略,也可以训练专门的微调模型用于关键事件提取。
上下文修剪(Trimming):直接用规则剔除那些旧的、无效的或冲突的上下文。比如清除最早回合的信息、剔除中间无用的路径等。这个方法操作简单,在工具调用频繁或成本敏感的场合尤其常用。
4. 隔离上下文(Isolate Context)
隔离上下文,就是把任务上下文拆分成多个“独立空间”,实现多Agent协作、环境分区或状态模块化:
多智能体架构(Multi-Agent):比如OpenAI Swarm和Anthropic的多智能体研究,每个子Agent管理自己的上下文、工具和指令,适合处理分布式复杂任务。实验表明,相比单个Agent,这种模式的响应准确率有明显提升,尽管token使用量可能高达单Agent的15倍。
环境隔离(Environment Isolation):Hugging Face的CodeAgent架构把代码工具执行放到沙箱环境里,工具调用的参数和返回值都在沙箱中完成状态隔离,只把最终结果注入LLM。这能有效防止上下文污染。
运行时状态对象(State Object):以LangGraph为例,系统状态由结构化字段组成。开发者可以精确控制哪些字段在每一步注入模型,哪些信息保持隔离,只在特定回合暴露。这就实现了“动态上下文管理”。
可以确定的是,上下文工程已经逐步成为AI智能体设计的核心工程分支。从Anthropic的研究,到OpenAI的产品落地,再到LangChain/LangGraph这些开发框架的演进,都在指向同一个趋势:
上下文,不只是提示词,它是智能体的“工作内存”、“知识总线”与“行为约束”。
随着工具生态的扩张、多模态输入的爆发和任务复杂度的持续增长,AI智能体的上下文管理必然会走向更自动化、更智能、更语义化的方向。Context Engineering将从人工手工选择,进化为“智能上下文调度器”,成为每一个AI开发者的核心能力之一。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:上下文工程爆火唤醒大模型心智AI智能体落地关键要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点旅游规划这件事,说难不难,说简单也真不简单。目的地怎么选才合心意、机票什么时候订最划算、行程怎么安排才不浪费时间——每个环节都得操心,确实让人有些疲惫。tripsei 这个工具,恰好就是来解决这些麻烦的:它利用人工智能技术,帮你智能匹配最合适的目的地,同时一键搜索出最优价格的机票,把旅游计划的前期准
RideReply平台以车牌号为通讯媒介,实现司机间安全私密的加密消息传递。用户需实名认证,车牌号经加密处理,所有消息由人工智能监控过滤不当内容,并通过电子邮件实时通知。该方式便于道路互动中的善意提醒或问题告知。
Anonymia是一个安全私密的在线社区,用户可匿名分享忏悔而不被评判。平台通过AI审核过滤仇恨言论、骚扰等有害内容,确保环境干净。匿名降低心理门槛,AI守住底线,社区提供支持,让倾诉更安全。
CopyleaksAI内容检测器是一款获奖工具,可识别GPT-4、Bard等模型生成文本,支持多语言及源代码检测,并附带抄袭检测功能。安装Chrome扩展后,通过登录账号、选中文本并点击图标即可获取检测报告。
- 日榜
- 周榜
- 月榜
热点快看
