随着大语言模型(LLM)能力的不断跃升,AI 智能体正在从纯对话系统迈向更复杂的多轮推理、多工具协同与长期任务执行。

而支撑这一演化的“幕后主角”,正是一个技术门槛日益提升的新领域:****上下文工程(Context Engineering)。继 Vibe Coding(氛围编程)火了之后,AI圈又迎来一股新的技术热潮。

这一次,是由前特斯拉 AI 总监、深度学习布道者 Andrej Karpathy 亲自点燃的火。他在一次演讲中强调:“如果你想真正掌控一个大语言模型的行为,不是去微调权重,而是掌控它的‘心智世界’——你提供给它的上下文。”

img

在构建 AI 智能体的过程中,“上下文”不仅仅是几个提示词的组合,更是构成其“认知宇宙”的核心素材。它包含模型当前能“看到”的信息(如任务指令、外部知识、历史轨迹),也决定了模型“如何看到”(结构化与否)、“何时看到”(静态注入或动态更新)。

正如 Andrej Karpathy 所说:“LLM 是新的计算平台,模型本体就像 CPU,而上下文窗口就像 RAM。你无法重新训练模型每次适配具体任务,但你可以用上下文工程去控制它‘思考的材料’。”

于是,一个全新的工程范式被推上风口浪尖:****Context Engineering(上下文工程)

img

img

上下文工程是一门集艺术与科学于一体的学问,目标是高效填充 LLM 的上下文窗口,使其在每一步任务执行中都拥有“刚刚好”的信息量。它不仅涉及信息的选择、组织与注入方式,还关注上下文的动态性、可扩展性与准确性。

img

具体而言,构建 AI 智能体过程中所涉及的上下文类型包括:

  • 指令:提示词、少样本示例、工具描述、系统角色设定等;
  • 知识:结构化事实、外部知识库(通过RAG注入)或语义记忆;
  • 工具反馈:函数调用、API 返回值、插件响应等多模态中间结果;
  • 历史轨迹:对话上下文、用户输入记录、策略路径等。

img

由于 LLM 的上下文窗口资源有限(即使扩展至百万 tokens 也依旧存在边界),不加选择地注入上下文将导致成本上升、响应延迟、性能退化甚至幻觉增强。因此,对上下文的管理与设计,必须借助系统化策略。

四大上下文工程策略详解:写、选、压缩、隔离。

img

img

1. 写上下文(Write Context)

写上下文是指将关键任务信息保存在上下文窗口之外,但又可被模型间接利用的手段,类似人类“写便签”、“做笔记”的行为。

  • 便签(Scratchpads):Anthropic 提出的研究显示,AI 智能体通过工具调用或状态字段记录计划信息,可帮助其在任务过程中持久化策略、参数或状态。例如,研究人员将超过 20 万 tokens 的长任务拆解为阶段性步骤,并通过便签记录每一阶段决策,从而避免窗口溢出。

  • 记忆(Memory):指 AI 智能体自动从多轮历史对话中提取高价值事实(语义记忆)、行为流程(程序记忆)、案例轨迹(情景记忆)并长期保留。这一机制已被 ChatGPT、Cursor、Windsurf 等集成,用于实现“个性化响应”。如 ChatGPT 能记住用户的写作风格和工作场景,并在未来会话中主动融合。

    img

2. 选上下文(Select Context)

选上下文是将最相关的信息拉入当前上下文窗口。它是上下文工程中最典型的动态部分,涵盖便签、记忆、工具与知识四种维度:

  • 记忆选择:如 Claude Code 使用 CLAUDE.md 文件、Cursor 使用 config rules,用于提供始终注入的规则性知识。对于海量语义记忆,ChatGPT 结合知识图谱与向量索引过滤调用内容,但仍存在“意外注入”问题(如 Simon Willison 遭遇 AI 自动泄露位置信息)。

    img

  • 工具选择:大模型面对多种工具时,可能会因描述相似产生混淆。RAG-MCP 架构通过将工具说明索引入库,仅检索任务相关的工具描述,实验证明工具选择准确率提高 3 倍。

  • 知识选择(RAG):以 Windsurf 为例,其代码 RAG 架构并非简单做文本嵌入,而是结合 AST 分块、语义重排、多源索引等手段,在千万行代码中快速定位任务相关逻辑模块,从而大幅提升智能体响应的专业度。

3. 压缩上下文(Compress Context)

压缩上下文用于精简冗余 tokens,通过“摘要”和“修剪”两类方式实现:

  • 上下文摘要(Summarization):Claude Code 在上下文窗口使用率达到 95% 后会自动对对话轨迹进行总结,再替代注入。这种方式可以采用递归摘要、层次摘要等策略,也可以训练微调模型用于关键事件提取。

    img

  • 上下文修剪(Trimming):使用规则剔除老旧、无效或冲突上下文。例如清除最早回合信息、剔除中间无关路径等。这种策略操作简便,在工具调用频繁或成本敏感场景中尤为常用。

4. 隔离上下文(Isolate Context)

隔离上下文是将任务上下文拆分为多个“独立空间”,实现多 Agent 协作、环境分区或状态模块化:

img

  • 多智能体架构(Multi-Agent):如 OpenAI Swarm 和 Anthropic 多智能体团队研究,每个子 Agent 管理自己的上下文、工具与指令,适用于分布式复杂任务。实验显示,相较单体 Agent,这种模式响应准确率显著提高,尽管 token 使用量高达单 Agent 的 15 倍。
  • 环境隔离(Environment Isolation):Hugging Face CodeAgent 架构将代码工具执行放入沙箱环境,工具调用参数与返回值在沙箱中完成状态隔离,仅返回结果注入 LLM,从而防止上下文污染。
  • 运行时状态对象(State Object):以 LangGraph 为例,系统状态由结构化字段组成。开发者可精确控制哪些字段在每步注入模型,哪些信息保持隔离,仅在特定回合暴露,从而实现“动态上下文管理”。

上下文工程已逐步成为 AI 智能体设计的核心工程分支。无论是 Anthropic 的研究,OpenAI 的产品落地,还是 LangChain/LangGraph 等开发框架的演进,都在强调一个趋势:

上下文,不只是提示词,它是智能体的“工作内存”、“知识总线”与“行为约束”。

未来,随着工具生态扩张、多模态输入爆发与任务持续增长,AI 智能体的上下文管理将走向更自动化、更智能、更语义化。

Context Engineering 将从人工手工选择,进化为“智能上下文调度器”,成为每一个 AI 开发者的核心能力之一。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐