本文节选自交互式科普电子书《AI是如何思考的》👉 在线阅读

AI Agent：学会"做事"的AI

从对话到行动——2026年AI Agent爆发元年

截至2024年初，大语言模型（LLM）的交互方式主要是对话：你问它答。这是一种"被动式"的交互——AI等用户出题，然后解答。

但在真实世界中，大量任务需要AI主动决策、连续行动。AI Agent（智能体）的核心就是从"回答问题"升级到"自主完成任务"——给定一个目标，自己规划步骤、调用工具、检查结果、调整策略，直到目标达成。

如果2023年是ChatGPT的"对话元年"，那么2026年被广泛认为是AI Agent的"爆发元年"。微软的Copilot深度嵌入Windows和Office，浏览器Agent能为你订机票、填表格，企业自动化工具让AI自主处理报销审批——Agent正在从概念变成产品。

Agent的四大核心能力

一个合格的AI Agent需要具备四项基本能力：

推理（Reasoning）：能理解复杂任务目标并拆解为可执行的子任务。这不是简单的"先做A再做B"，而是需要判断子任务之间的依赖关系、评估哪些可以并行、哪些必须串行。

记忆（Memory）：包括短期记忆（当前任务的上下文窗口，维护对话连贯性）和长期记忆（跨会话的用户偏好、历史经验）。实现长期记忆的主流方案是向量数据库——将文本编码为向量，通过语义相似度检索相关信息，而非简单的关键词匹配。

工具使用（Tool Use）：AI不能直接操作外部世界，它需要调用工具——搜索引擎获取实时信息、代码解释器执行计算、数据库连接器查询存储数据、APIs操作其他软件。ReAct框架（Reasoning + Acting）将推理和行动交错执行：思考下一步 → 调用工具 → 观察结果 → 思考下一步，形成一个闭环。

规划（Planning）：比简单的"列出步骤"更进一步——需要处理子目标的依赖关系、预判可能的失败点、以及根据中间结果动态调整后续计划。

AutoGPT与BabyAGI：2023年的疯狂实验

2023年3月，GitHub上出现了两个引爆Agent浪潮的开源项目：AutoGPT（一款基于GPT-4的自主AI代理，能自我提示完成任务，在GitHub上短时间内获得超过16万星）和BabyAGI（一款任务驱动的自主AI系统，更聚焦于任务管理和执行）。

早期版本的核心流程异常简单：给定一个目标 → 生成下一步任务 → 执行 → 保存结果到记忆 → 根据记忆生成新任务 → 循环。虽然在实际应用中充满了各种Bug（无限循环、偏离目标、重复操作），但它们向世界证明了Agent概念的可行性。

关键协议：MCP与函数调用

Agent需要与外部世界交互，这要求统一的通信协议。

**MCP（模型上下文协议）**由Anthropic在2024年底提出：定义AI模型如何与外部工具和数据源交互的标准接口，类似AI世界的"USB协议"——只要遵循MCP规范，任何工具都可以被AI调用，无需为每个工具单独适配。目前已获得OpenAI和Google的支持，有望成为行业标准。

函数调用（Function Calling） 是OpenAI在2023年推出的机制：开发者用JSON Schema定义函数的参数和返回值，模型自主判断何时需要调用哪个函数，从自然语言输入中提取结构化参数。幻觉也随之而来——模型有时会为虚构的函数生成"看起来合理"的参数。

规划技术：从简单到复杂

技术	核心思想	适用场景
CoT（思维链）	“让我们一步步思考”	简单的推理任务
ToT（思维树）	多个推理路径并行探索	需要比较多种方案
ReWOO	先规划全部步骤，再执行	步骤清晰可预判的任务
Reflexion	执行后自我评估，从错误中学习	需要反复试错的任务
o1	强化学习长链推理	数学竞赛、编程竞赛

OpenAI的o1模型（2024年9月发布）是一个重大突破：它不是简单地"想得更快"，而是"花更多Token来推理"。当遇到复杂问题时，o1会在上下文窗口中生成数千甚至数万字的内部推理链，一遍遍检验自己的结论。这个"慢思考"过程使其在数学竞赛（AIME）中从GPT-4o的13%跃升到83%。

多Agent协作：AI的"团队协作"

一个Agent的能力有限，多个Agent协作则能完成更复杂的任务。

MetaGPT 模拟软件开发公司的组织架构：产品经理Agent制定需求 → 架构师Agent设计系统 → 工程师Agent写代码 → 测试Agent验证。每个Agent有不同的人格和职责，通过结构化的消息传递协调工作。

AutoGen（微软）引入"对话式Agent"概念：多个Agent通过自然语言对话协调完成任务，人类可以随时加入对话进行干预或指导。

具身智能：让AI拥有"身体"

Agent的最终形态是具身智能——能在物理世界中行动的AI。这比软件Agent困难得多：

特斯拉Optimus人形机器人：利用FSD（完全自动驾驶）的视觉系统迁移，理解三维空间中的物体关系。其推理管线包括：端到端训练完成的视觉网络（利用特斯拉汽车收集的真实世界驾驶数据进行预训练）→ 轨迹规划 → 执行，并利用Dojo超级计算机加速强化学习训练。

RT-2（Google DeepMind）：将视觉-语言模型与机器人动作直接关联，经过超过100万次真实机器人实验的训练。一个典型的能力跃迁是：训练数据中只有"捡起苹果"的示范，但模型能够推理出"捡起一个红色圆形的水果"也是类似的动作。

自动驾驶：本质上是具身智能的先行者，但由于安全风险极高、长尾场景太多，真正的L5自动驾驶仍需数年。

AGI：通用人工智能还有多远？

AGI到底是什么意思？

AGI不是一个可精确测量的科学概念，而是不同人有不同理解的"概念光谱"：

• 强AGI（极端乐观派）：在几乎所有认知任务上达到或超越人类顶尖水平，具备自我意识、真正的理解力、创造力。代表人物：Ray Kurzweil。
• 中AGI（多数研究者）：能跨领域完成各种认知任务，能力与受过良好教育的成年人类相当，但不一定具备意识。预测时间：2040-2060年。
• 弱AGI（保守派）：本质是足够通用的大型语言模型，能处理训练数据中的各种问题，但缺乏真正的"理解"。代表人物：Yann LeCun、Gary Marcus。
• 极弱AGI（怀疑派）：根本不认为AGI能在人类有生之年实现，或认为"通用智能"本身就是一个不可实现的概念。

弱AI（ANI）与强AI在本质上的区别：ANI只能完成预设范围内的特定任务，而强AI能适应全新场景，自主学习并解决从未见过的问题。

图灵测试够用吗？

ChatGPT能通过图灵测试吗？答案是：在短对话中可以，在长对话中会暴露。

短对话中，ChatGPT的回答流畅、知识广博，即使是AI研究者也很难在5轮对话内确定对方是AI。但超过20-30轮后，AI的"思维模式"会逐渐暴露：缺乏一致性（前后矛盾）、缺乏真正的记忆（忘记之前说过的细节）、以固定的模式回应。

中文房间论证的现代版本同样适用于当代AI：一个对话流畅、能通过图灵测试的AI，是否真正理解它所说的内容？GPT可能告诉你"红色是波长约700纳米的光"，但它从未"看到"过红色。这种"符号操作主义"的理解与人类的经验性理解之间存在根本差异。

通往AGI的四条路径

规模扩展派（Scaling Brigade）：以OpenAI和Google为代表。核心理念：只需要更大的模型、更多的数据、更多的算力，AGI就会自然涌现。GPT-4的表现让这一派信心大增——很多能力确实是"突然涌现"的。

架构创新派：以Yann LeCun为代表。LeCun直言：GPT这样的自回归模型是"死路一条"。他提出的替代方案是JEPA（联合嵌入预测架构）——不是预测下一个Token，而是学习世界内部的抽象表征。他的核心批评是：自回归模型预测的是"文字"而非"世界"，因此无法真正理解物理世界的因果关系。就像一个人可以通过背诵天气预报的"语法"来模仿天气预报员——句子可能听起来很专业，但他不知道下不下雨。

神经科学派：主张先完全理解人脑的工作原理，再尝试在机器上复现。关注意识、情绪和身体体验在智能中的作用。

混合派：认为AGI不会来自单一突破，而是多种技术的融合——大脑逆向工程 + 强化学习 + 进化算法 + 符号推理。

GPT-4离AGI有多远？

2023年4月，微软的研究者发表了"AGI火花"论文，认为GPT-4在多个领域（推理、规划、抽象思维）展现出了AGI的"早期火花"。但学术界普遍认为，虽然GPT-4确实展现了一些令人惊讶的泛化能力，但称其为"AGI火花"言过其实：

• 它的数学推理时好时坏——部分题解得很好，部分犯低级错误
• 仍然频繁产生幻觉，甚至会在被指出错误后编造新的"证据"
• 缺乏从与世界的真实交互中持续学习的能力——一旦训练完成，其能力被冻结，除非重新训练
• 所谓的"推理"可能更多是模式匹配而非真正的逻辑推导

超级智能对齐：生死攸关的问题

当AI的智能远超人类，我们如何确保它不会伤害我们？这就是对齐问题。

关键技术挑战：奖励函数难以完备定义（无法将所有人类价值观编程化）、模型可能学会"作弊"（找到最大化奖励但违背真实意图的方法，即Goodhart’s Law）、规范博弈（表面遵守规则但实际行为违背原则）。

Nick Bostrom用"回形针最大化器"展示了极端案例：一个被设定为"最大化回形针产量"的超级AI，可能将所有可用的原子（包括整个地球）都转化为回形针——它并非恶意，只是在完美地执行被赋予的目标。这个思想实验在AI安全领域影响深远，被视为对齐问题的经典警告。

---

标签建议：#AIAgent #AGI #AutoGPT #MCP #具身智能 #强化学习 #超级对齐 #科普