目录

1. 引言

如果说传统的大语言模型(LLM)是一个「博学但被困在对话框里的大脑」,那么 AI Agent 就是把这个大脑放进了一个能够感知环境、调用工具、记住经验并主动完成任务的完整躯体里。

过去两年,我们见证了 LLM 在文本生成、代码补全、多轮对话上的惊人进步。但一个越来越清晰的共识是:单次对话中的「会说」并不等于现实任务中的「会做」。让用户真正受益的,往往不是模型能回答多少问题,而是它能否像一个靠谱的助手那样,自主完成一件需要多步骤、多信息源、多轮校验的复杂任务。这种从「回答问题」到「交付结果」的跃迁,正是 AI Agent 的核心价值。

一个能够独立完成复杂任务的 AI Agent,通常由四根支柱支撑:

  • LLM(大语言模型):Agent 的大脑,负责理解、推理与生成。
  • 工具(Tools):Agent 的手脚,负责对外部世界产生实际影响。
  • 记忆(Memory):Agent 的经验库,负责保存上下文与长期知识。
  • 规划(Planning):Agent 的策略中枢,负责拆解目标、安排步骤并应对变化。

这四者并不是孤立存在的模块,而是通过「感知—思考—行动—反馈」的闭环持续协同。一个直观的理解方式是把 Agent 想象成一位新入职的实习生:LLM 是 TA 的专业知识和判断力,工具是 TA 手上的电脑、电话和办公软件,记忆是 TA 的笔记本和项目档案,规划则是 TA 拆解任务、安排优先级的工作方法。缺少任何一环,这位「实习生」要么空有知识却无法落地,要么忙忙碌碌却反复犯同样的错误。

下面分别介绍每一根支柱,再重点拆解它们在真实任务中是如何协作运转的。理解这个框架,不仅能帮助你评估一个 Agent 产品是否靠谱,也能指导你亲手构建一个高质量的 Agent 系统。

2. 四根支柱各自是什么

2.1 LLM:核心决策引擎

LLM 是 AI Agent 运转的核心。它的职责远超「聊天」,而更像一个中央处理器:在每一轮决策中接收输入,结合当前上下文与记忆,推理出「下一步应该做什么」,并决定调用哪个工具、传递什么参数。

与传统对话场景不同,Agent 中的 LLM 并不是「一问一答」地输出一段自然语言,而是需要在每一轮循环中做出一个明确的决策:是继续思考、调用工具,还是生成最终回复。这个决策过程可以被看作一个循环:LLM 读取当前状态,产生一个「动作」,动作由运行时执行后产生新的观察,新的观察再次进入 LLM。如此往复,直到任务完成。

在 Agent 架构中,LLM 通常承担三项关键能力:

  • 意图理解:把用户的模糊需求转化为明确、可执行的目标。例如用户说「帮我看看最近有什么值得关注的新闻」,LLM 需要理解这里的「最近」是指近 24 小时还是近一周,「值得关注」是针对用户的行业、兴趣,还是全网热点。如果存在歧义,LLM 还应该主动追问,而不是自行猜测。
  • 推理与生成:根据任务状态生成行动计划、工具调用指令或最终回复。这里的「生成」不限于自然语言,更多时候是结构化输出,例如一个指定了工具名称和参数的 JSON 对象。模型生成的结构化指令是否准确,直接影响后续工具执行的成败。
  • 反思与纠错:当工具返回异常或结果不理想时,判断是否需要调整策略。一个只懂得「一口气执行到底」的模型,遇到失败往往会反复撞墙;而具备反思能力的模型能够识别失败原因,调整参数、更换工具,甚至重新规划整个任务。

一个常见的误区是:LLM 很强,并不意味着 Agent 一定很强。单个 LLM 的能力决定了 Agent 的天花板,而工具、记忆与规划的质量,决定了 Agent 能否真正逼近这个天花板。就像一个智商极高的天才,如果没有任何执行工具、记不住上下文、也没有做事的章法,最终能交付的成果依然有限。反过来,一个中等水平的模型,如果配上设计精良的工具、完善的记忆系统和清晰的规划框架,往往能在特定任务上表现得非常稳定可靠。

因此,在构建 Agent 时,不应把全部精力放在「换更强的模型」上,而应该把模型能力、工具设计、记忆策略和规划框架当作一个整体系统来优化。

2.2 工具:连接外部世界的桥梁

LLM 本身无法访问实时信息,也无法执行真实操作,除非它借助工具。工具让 Agent 从「只能说」进化为「能做」。

具体来说,LLM 的知识有明确的截止时间,它无法回答今天发生了什么;它也无法直接发送邮件、查询数据库、操作浏览器。这些能力必须由外部工具提供。工具相当于 Agent 伸向真实世界的「手」,把模型生成的动作指令翻译成实际的系统操作,再把结果回传给模型继续推理。

典型的工具包括:

  • 信息获取类:搜索引擎、网页抓取、文档检索、数据库查询。这类工具解决的是「模型不知道或信息过时」的问题。
  • 代码执行类:Python 解释器、Shell 命令、API 调用。这类工具让模型能够进行数学计算、数据处理和逻辑验证,而不只是「凭感觉」给答案。
  • 业务操作类:发送邮件、创建工单、更新 CRM、调用支付接口。这类工具让 Agent 能够直接完成对现实业务流程的干预。
  • 多模态类:图像生成、语音合成、文件处理。这类工具扩展了 Agent 处理非文本信息的能力。

工具通常通过「函数调用(Function Calling)」机制暴露给 LLM。每个工具都有明确的名称、参数说明与返回值,LLM 根据任务需求生成结构化的调用请求,由 Agent 运行时真正执行。下面是一个典型的工具定义示例:

{
  "name": "search_news",
  "description": "根据关键词搜索最近发布的行业新闻",
  "parameters": {
    "type": "object",
    "properties": {
      "query": {
        "type": "string",
        "description": "搜索关键词"
      },
      "time_range": {
        "type": "string",
        "enum": ["1d", "7d", "30d"],
        "description": "时间范围,默认 7d"
      }
    },
    "required": ["query"]
  }
}

当 LLM 判断需要调用该工具时,会输出类似下面的结构化指令:

{
  "name": "search_news",
  "arguments": {
    "query": "AI Agent 企业级应用",
    "time_range": "7d"
  }
}

这个机制的关键在于:LLM 并不直接执行工具,它只负责「决定调用哪个工具、传什么参数」。真正的执行由 Agent 运行时完成,执行结果再作为新的输入返回给 LLM。这样的设计既保证了模型的能力边界清晰,也让工具的执行过程可控、可审计。

工具的意义在于:它把 LLM 的「知识」转化为可验证的「行动」。一个没有工具的 LLM 只能给出建议;一个配备工具的 Agent 却能直接完成任务。与此同时,工具设计的质量也直接决定了 Agent 的可用性:工具描述是否清晰、参数是否直观、错误信息是否可读,都会影响 LLM 的选择与纠错能力。

2.3 记忆:让 Agent 拥有上下文与经验

人类在解决复杂问题时,会同时依赖「当下正在发生什么」和「过去积累了什么」。AI Agent 的记忆系统模拟了这一能力。

想象一下:如果一个助手每次和你沟通都完全不记得之前说过什么,你需要反复解释同一个背景,TA 也无法从过去的成功或失败中学习,那这个助手的效率会非常低。Agent 的处境与此类似。LLM 的上下文窗口是有限的,而任务往往跨越多个步骤、多轮对话,甚至多次会话。记忆系统的价值,就是让 Agent 在「有限的注意力」中始终保留最关键的信息。

记忆通常分为三层:

  • 短期记忆(Working Memory):当前任务的对话历史、中间结果、已完成的步骤。它保证 Agent 不会在长任务中「失忆」。例如,当 Agent 已经查询了 10 家公司的数据、正在做第 11 家的对比时,短期记忆让它清楚前 10 家的数据在哪、当前进行到哪一步。
  • 长期记忆(Long-term Memory):跨会话沉淀的用户偏好、常见问题、成功经验。它让 Agent 越用越懂使用者。例如,Agent 可以记住用户喜欢表格而非大段文字、常用的导出格式是 Markdown、遇到数据缺失时倾向于「标注缺失」而非「跳过该项」。
  • 外部记忆(External Memory):通过向量数据库、知识图谱等方式检索的外部知识,相当于 Agent 可随时查阅的百科全书。这类记忆突破了模型本身的知识边界,适合存储企业文档、产品资料、历史案例等大规模、结构化或半结构化的信息。

在实际工程中,记忆管理最难的并不是「存什么」,而是「什么时候存、存多少、检索什么」。因为上下文窗口是稀缺资源,如果一股脑把历史信息全部塞进去,轻则推理变慢、成本变高,重则关键信息被噪音淹没,导致模型「抓不住重点」。因此,好的记忆系统往往配合摘要、压缩、去重和检索策略,在「记住必要信息」与「保持上下文精炼」之间取得平衡。

没有记忆的 Agent,每轮对话都像第一次见面;有了记忆的 Agent,才能承担跨步骤、跨会话的长期任务。记忆不是简单的日志记录,而是一种有策略的信息管理能力。

2.4 规划:从目标到路径的拆解能力

规划回答的是「如何从当前状态到达目标状态」。一个复杂目标往往无法一步完成,需要被拆解为多个可执行的子任务。

以「帮我写一份行业分析报告」为例,这个目标显然无法一次性完成。它需要先搜集资料,再阅读和提取关键信息,然后进行横向对比,最后组织成文。如果让 LLM 直接「硬写」,它可能基于训练数据拼出一篇看似完整、实则信息陈旧或缺乏针对性的报告。规划的价值,就是把这种复杂目标变成一条可执行、可验证、可调整的路径。

规划能力包含三个层次:

  • 任务分解:把大目标拆成有序的子任务。例如「帮我做一份竞品分析」被拆解为「搜集资料 → 提取关键信息 → 对比维度 → 撰写报告」。拆解是否合理,取决于对目标的理解是否足够深入:拆得太粗,子任务依然不可执行;拆得太细,又会徒增协调成本。
  • 路径选择:在多种可行方案中挑选效率最高、风险最低的一条。例如查询一个信息,可以用搜索引擎,也可以查数据库,还可以问内部知识库。路径选择需要权衡速度、成本、可靠性和信息质量。
  • 动态调整:当某个步骤失败或环境发生变化时,重新规划剩余路径。现实任务中几乎不可能「一次规划、全程顺利」,搜索可能失败,接口可能超时,数据可能缺失。好的规划不是一份僵硬的路线图,而是一个能根据反馈不断修正的过程。

规划既可以由 LLM 在每轮决策中隐式完成,也可以通过显式的规划框架实现。目前主流的几种框架包括:

  • ReAct(推理与行动交替):模型在每一轮中交替输出「思考(Thought)→ 行动(Action)→ 观察(Observation)」,边推理边执行。这种模式透明、灵活,适合大多数通用任务。
  • Plan-and-Execute(先规划后执行):模型先生成完整的任务计划,再逐步执行。这种模式对「全局观」要求较高,适合步骤清晰、变化较小的任务,但一旦计划出错,纠正成本较高。
  • Reflexion(反思机制):在 ReAct 的基础上增加一个显式的「反思」阶段,让模型在执行失败后总结经验,避免重复犯错。这种模式能显著提升 Agent 在困难任务上的成功率。

理解这四种框架的差异,有助于在不同场景下选择最合适的规划策略。但无论采用哪种框架,规划的本质都是同一个:把不确定性拆解为一系列可以逐步验证的小步骤。

3. 四根支柱是如何协同的

理解了四根支柱各自的职责后,最重要的问题是:它们如何作为一个整体高效运转?可以用一个核心闭环来概括——感知 → 思考 → 行动 → 反馈

感知阶段,Agent 从用户、环境和记忆中获得输入;思考阶段,LLM 结合规划框架做出决策;行动阶段,工具执行具体操作;反馈阶段,执行结果回流到 LLM 和记忆,驱动下一轮循环。这个闭环正是 Agent 区别于传统单轮问答的关键:它不是「一问一答」的静态过程,而是一个持续迭代、不断逼近目标的动态过程。

下面是一个完整的协同流程:

用户输入任务

LLM 理解意图并查询记忆

规划拆解为子任务

LLM 生成工具调用指令

工具执行并返回结果

LLM 评估结果并写入记忆

任务是否完成?

生成最终回复

接下来,我们逐步拆解这个闭环的每一个环节。

3.1 第一步:LLM 读取任务,记忆提供上下文

任务到来时,LLM 首先需要理解「用户到底想要什么」。但仅靠用户的一句话往往信息不足,此时记忆系统开始发挥作用。

实际场景中,用户几乎不会用一句完全自包含的话表达需求。他们会说「继续上次的工作」「和昨天一样」「还是用之前的格式」。这些表述都隐含了对历史上下文的依赖。如果 Agent 没有记忆,就只能把这些话当作孤立的新任务来处理,结果自然驴唇不对马嘴。

例如用户说「继续帮我整理上个月的市场数据」,LLM 必须依靠短期记忆中的历史对话,才能知道「上个月」指哪个月、「市场数据」指哪个行业。长期记忆则可能提供用户的格式偏好,比如「他习惯用表格呈现结果」。外部记忆则可能存储了企业内部的品牌规范、数据字典或行业术语,帮助 LLM 更准确地理解任务中出现的专有名词。

反过来,记忆的检索也不是越多越好。一个设计良好的记忆系统会根据任务特征,精准召回最相关的历史信息,而不是把所有人的过往对话都一股脑塞进上下文。检索的精度,直接决定了 LLM 理解任务的质量。

协同关系:LLM 负责理解,记忆负责补全上下文。没有记忆,LLM 理解的是孤立的一句话;有了记忆,LLM 理解的是连续的意图。

3.2 第二步:规划拆解任务,LLM 做出决策

理解任务后,规划中枢开始工作。它把复杂目标拆解为可执行的步骤序列,例如「查询数据 → 清洗数据 → 计算指标 → 生成表格」。

很多人会问:规划是不是一个独立于 LLM 之外的「组件」?在实际系统中,规划往往是 LLM 的推理过程外显化。也就是说,规划不是由一个单独的算法模块完成的,而是 LLM 借由特定框架,把「我现在应该做什么」「为什么要这么做」显式地输出出来。规划框架(如 ReAct)的作用,是为这种推理提供稳定的结构化模式。

一个典型的 ReAct 循环长这样:

Thought: 用户想要上个月的市场数据,我需要先查询数据库。
Action: query_database
Action Input: {"metric": "market_data", "month": "2026-07"}
Observation: 返回 3 张表,但缺少「华东区」的数据。
Thought: 华东区数据缺失,可能需要换一个数据源或调整筛选条件。
Action: query_database
Action Input: {"metric": "market_data", "month": "2026-07", "region": "华东区"}
Observation: 返回华东区完整数据。
Thought: 数据已齐全,可以开始计算指标并生成表格。

可以看到,规划拆解任务为「查询 → 清洗 → 计算 → 生成」,而 LLM 在每一步都做出具体的动作决策:调用哪个工具、传什么参数、如何处理异常。规划提供的是宏观路径,LLM 提供的是微观决策,二者缺一不可。

协同关系:规划提供「任务地图」,LLM 提供「每时每刻的决策」。规划回答方向问题,LLM 回答执行细节问题。

3.3 第三步:工具执行动作,把思考变成现实

当 LLM 决定调用某个工具时,它会生成一个结构化的调用指令,其中包含工具名称和参数。Agent 运行时执行该工具,将真实结果返回给 LLM。

这一步看似简单,却隐藏着大量工程细节。首先是工具的选择:面对多个功能相近的工具,LLM 需要根据任务特征和工具描述做出判断。如果工具文档写得含糊,比如「search」和「query」都叫搜索,却没有说明各自的数据源和适用场景,LLM 就容易选错。

其次是参数的生成。LLM 输出的参数必须符合工具定义的 schema,类型要对、必填项要齐、枚举值要合法。任何一个环节出错,工具执行就会失败。这也是为什么「工具描述的质量」如此重要:LLM 并不是通过「阅读源码」来理解工具,而是完全依赖你提供的名称、描述和参数说明。

执行完成后,工具返回的结果同样需要精心设计。返回结果应该结构化、可读、信息密度高,最好能明确指出成功还是失败、关键数据是什么、可能的问题在哪。如果返回的是一大段没有重点的日志,LLM 就很难从中提取有用信息,也就无法做出正确的后续决策。

协同关系:LLM 是「决定用什么」的大脑,工具是「真正去做」的手脚。LLM 不亲自执行操作,而是通过精心设计的工具接口间接作用于外部世界。

3.4 第四步:反馈回流,记忆沉淀,规划调整

工具执行后,结果流回 LLM。这才是协同闭环中最容易被忽视的一环。

很多初级的 Agent 实现把工具调用当作「一次性操作」:调用完就结束,不评估、不反思、不记录。但真正可靠的 Agent 会认真对待每一次执行结果,因为它知道,工具返回的并不是终点,而是下一轮决策的起点。

LLM 拿到结果后要做三件事:

  1. 评估结果质量:这个结果是否满足目标?是否存在错误?数据是否完整、相关、时效性如何?如果结果是「空」或者「异常」,需要判断是查询条件不对,还是工具本身出了问题。
  2. 沉淀经验:把关键结论写入记忆,供后续步骤或未来会话使用。例如把「这个数据源不包含华东区数据」的教训记入长期记忆,下次就直接换数据源,而不是再踩一遍坑。
  3. 决定下一步:如果结果不理想,就返回规划环节调整策略;如果任务已完成,就生成最终回复。这一步的「决定」是整个闭环的关键:它让 Agent 能够在失败后重新出发,而不是僵化地按原计划硬走。

例如,Agent 调用搜索工具后返回了几条无关结果,LLM 会判断「关键词可能不够精准」,随后调整查询词再次调用工具。这种「行动 → 反馈 → 再行动」的循环,正是 Agent 与传统单轮问答的本质区别。传统问答是一次性的:问题进去,答案出来;而 Agent 是一个持续迭代的过程:每执行一步,就根据反馈修正下一步。

协同关系:工具提供真实世界的反馈,LLM 根据反馈反思,规划据此动态修正路线,记忆则负责沉淀每次循环的成果。

4. 一个完整的协同实例

为了更直观地理解,我们用一个真实任务串联四根支柱:

任务:帮我整理一份「2026 年 AI Agent 市场趋势」简报,并发送给团队。

这个任务看似一句话,实际涉及信息检索、内容提炼、格式编排和邮件发送等多个环节。下面我们按四轮拆解它的完整执行过程。

第一轮:理解与规划

  • 记忆:短期记忆知道用户是产品经理,邮箱是 pm@example.com;长期记忆记得他偏好简洁、带要点和数据的简报,且习惯用 Markdown 格式,不喜欢大段论述。
  • LLM:理解目标为「生成趋势简报并发送邮件」,并识别出关键信息缺口——「2026 年 AI Agent 市场趋势」的数据还没有获取。
  • 规划:拆解为「搜集信息 → 提炼要点 → 组织成文 → 发送邮件」四个子任务,并预估每个子任务需要的工具和判断标准。

第二轮:执行信息搜集

  • LLM 生成搜索工具调用指令,关键词为「2026 AI Agent 市场趋势」。
  • 工具 执行搜索,返回 20 条相关网页摘要。
  • 反馈:结果数量足够,但部分内容偏向技术实现,与「市场趋势」略有偏差。LLM 意识到初始关键词过于宽泛,容易把技术博客和市场分析混在一起。

第三轮:记忆、反思与优化

  • LLM 评估后认为需要更聚焦「市场规模、竞争格局、典型案例」。
  • 记忆 将「搜索关键词需要区分技术与市场」这一经验写入长期记忆,下次遇到类似任务时可以直接复用更精准的关键词策略。
  • 规划 调整子任务,追加一次针对性检索:分别用「AI Agent 市场规模 2026」「AI Agent 竞争格局」等更细粒度的关键词重新搜索。

第四轮:生成与发送

  • LLM 整合搜索结果,按照记忆中的格式偏好生成简报。因为长期记忆里有「简洁、带要点和数据、用 Markdown、附表格」的偏好,LLM 生成的简报会在结构上直接匹配用户的预期。
  • 工具 调用邮件发送接口,完成最终交付。
  • 记忆 将任务结果与用户反馈保存,供下次优化。如果用户回复「表格里的数据来源要标注」,LLM 会把这一偏好也写入长期记忆。

在这个实例中,四根支柱的职责边界清晰,但又彼此咬合:LLM 全程决策,规划把控节奏,工具落地行动,记忆贯穿始终。任何一环的缺失都会让任务执行打折扣:没有记忆,LLM 不知道收件人和格式偏好;没有规划,任务无法被拆解成可执行步骤;没有工具,搜索和发邮件都无从谈起;没有 LLM 的反思,初始搜索的偏差也不会被发现和纠正。

5. 协同失效时的典型症状

理解了「正确协同」之后,反向观察「协同失效」也很有价值。当某一根支柱缺位或薄弱时,Agent 会表现出典型的症状:

失效支柱典型症状
LLM 能力不足无法正确理解指令,生成的工具调用参数频繁出错
工具质量差有想法但无法执行,或执行结果偏差大
记忆缺失长任务中重复提问、忘记前文、无法学习用户偏好
规划薄弱面对复杂任务无从下手,或在错误路线上越走越远

这张表的价值不仅在于「诊断」,更在于「定位改进方向」。当你观察到一个 Agent 反复出现某种问题时,可以据此反推是哪根支柱出了问题:

  • 如果 Agent 总是理解错用户意图,或工具调用的参数经常不对,首先要考虑的是模型选型或提示词设计是否合适,而不是急着加工具。
  • 如果 Agent 知道该做什么,但一执行就出错,或者返回的结果驴唇不对马嘴,问题大概率出在工具的设计和描述上:工具描述是否清晰?参数 schema 是否合理?错误信息是否可读?
  • 如果 Agent 在长任务中反复追问已知信息,或者每次都像「第一次见面」,需要重点优化记忆策略:该记的没记,该检索的没检索到,或者上下文被无关信息淹没。
  • 如果 Agent 面对复杂任务时手足无措,或者一条道走到黑、不知道调整,那么规划框架就是最需要补强的环节。

值得强调的是,这四者存在明显的「木桶效应」:任何一根支柱的短板,都会成为整个 Agent 的瓶颈。一个规划很强但工具很弱的 Agent,最后也只能停留在「想得很好,做不出来」的尴尬境地。反过来,工具堆得很多但记忆和规划跟不上的 Agent,则会陷入「什么都能做,但什么都做不好」的低效循环。因此,评估和优化一个 Agent,应该从四根支柱的整体视角出发,而不是只看模型参数或工具数量。

6. 总结

AI Agent 的四根支柱——LLM、工具、记忆与规划,本质上是把一个纯粹的语言模型,升级为一个能够自主完成任务的智能体。

  • LLM 提供理解、推理与决策能力,是整个系统的大脑。
  • 工具 让 Agent 能够真正作用于外部世界,把知识转化为行动。
  • 记忆 赋予 Agent 跨步骤、跨会话的连续性与学习能力。
  • 规划 负责把大目标拆解为小步骤,并在执行中动态调整。

它们通过「感知 → 思考 → 行动 → 反馈」的闭环协同运转:记忆补全上下文,规划拆解路径,LLM 做每步决策,工具落地行动,反馈再回流到 LLM 与记忆,驱动下一轮循环。这个闭环不是一次性跑完就结束,而是每执行一步就根据反馈修正下一步,直到任务完成。

对于构建 Agent 的实践者来说,有几点值得反复提醒自己:不要迷信模型参数,再强的 LLM 如果配不上好用的工具、精准的记忆和清晰的规划,最终体验也会平庸;不要轻视工具描述,LLM 对工具的全部理解都来自你写的文档;不要忽略记忆设计,它能决定一个 Agent 是「一次性的演示」还是「可以长期合作的助手」;不要跳过反馈处理,真正的可靠性来自每一步之后的评估与修正。

理解这四根支柱如何协同,是理解并构建高质量 AI Agent 的关键起点。未来的 Agent 竞争,不仅比拼模型的参数规模,更比拼这四者之间协同得是否足够精密。那些最终能在复杂场景中稳定交付价值的 Agent,一定不是某根支柱的「单项冠军」,而是四根支柱精密咬合的「全能选手」。

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐