AI Agent 框架分类与代表对比

Agent 框架很少「全能」——多数只在某一层做强。选型先定类别,再比同层框架。

总览:九大类各自解决什么

大类核心问题代表框架 / 产品典型产出
1. 流程编排谁下一步、怎么分支/恢复LangGraph、CrewAI、LlamaIndex Workflows、OpenAI Agents SDK、Semantic Kernel可控工作流
2. 多 Agent 协作怎么分工、交接、互评AutoGen(AG2)、CrewAI、LangGraph(图协作)团队式任务完成
3. 检索 / RAG / 搜索搜什么、怎么搜得准LlamaIndex、QAgent、SmartSearch、composer-agentic_rag、SIARE、FORT*更高质量召回与答问
4. 工具与协议怎么接外部系统MCP、各家 Function Calling / Tools SDK可扩展工具面
5. 记忆与状态记住什么、状态怎么持久LangGraph Checkpoint、Mem0、Zep、自建 Redis/Postgres跨轮/跨会话连续性
6. 训练与数据合成怎么把 Agent「练强」FORT、各类 RL Search Agent 训练链路更强搜索/规划能力
7. 观测与评测跑得怎样、为何失败LangSmith、Langfuse、Phoenix、RAGASTrace、成本、质量回归
8. 耐久执行基建长任务如何可重试可恢复Temporal(+ 上述编排)小时~天级可靠执行
9. 垂直场景 Agent特定业态开箱能力Cursor/代码 Agent、浏览器 Agent、客服 Agent场景化交付

*FORT 偏「为搜索 Agent 造训练数据」,归入第 6 类更贴切;若强调深度搜索数据质量,可同时挂在第 3 类供给侧。


1. 流程编排类:怎么「走完这件事」

框架控流抽象状态/恢复上手成本突出特点更适合
LangGraph图(节点+条件边)Checkpoint、HITL、回放强中~高显式状态、生产控流最强之一复杂分支、审批、可审计
CrewAI角色+任务流水线基础;长跑常需自补业务同学易懂的「组班」模型顺序/层级业务协作
LlamaIndex Workflows事件驱动 Step有工作流状态与 RAG/数据管线天然贴合数据密、步骤清晰的流水线
OpenAI Agents SDKReAct 环 + Handoff轻量概念少、贴近 OpenAI中等复杂度、厂商清晰
Semantic KernelPlanner / Process / Plugin偏平台能力C#/Python/Java 一致体验Azure/.NET 企业栈

同层怎么选一句话
要硬控流与可恢复 → LangGraph;要角色叙事快跑通 → CrewAI;要 RAG 步骤链 → LlamaIndex Workflows;要轻量交接 → OpenAI Agents SDK;要微软多语言中台 → Semantic Kernel。


2. 多 Agent 协作类:怎么「多人一起干」

框架协作模式沟通方式可控性突出特点更适合
AutoGen (AG2)对话式协作多轮发言+选人中(偏「软」路由)批评–改进循环强研究、写代码、材料互审
CrewAI顺序 / 层级委派任务交接中高Role–Goal–Task 清晰像项目组一样的业务流
LangGraph图上多节点 Agent共享状态+边路由协作也能做到确定路由要协作又要合规/分支

协作类常 叠在编排类之上:CrewAI/AutoGen 是「协作体验」;LangGraph 是「可把协作画成确定图」。


3. 检索 / RAG / 搜索类:怎么「搜得准」

框架定位优化手段是否训练突出特点更适合
LlamaIndexRAG 基建连接器/索引/检索/评估数据与索引基础设施先建库、再建 Agent
QAgent模块化搜索 Agent多步规划–搜索–反思两阶段 RL专攻「怎么搜」已有检索底座,要加强搜索智能体
SmartSearch查询优化过程奖励+课程学习三阶段课程盯紧中间 query 质量败因在查询改写
composer-agentic_rag组件化 Agentic RAG可插拔策略+反思 ReAct否(编排)配置拼装 HyDE/重排/Self-RAG 等工程上快速对比策略组合
SIARE自我进化 RAG质量–多样性进化进化算法自动变异提示/策略/拓扑愿付评估算力换自动搜参
adaptive-intelligence检索策略路由RL 选策略RL按 query 类型选搜法查询形态很杂(待核实成熟度)
FORT(供给侧)深度搜索数据合成抗捷径数据生成供 SFT逼模型真多步搜训练数据太「水」、模型偷懒

同层怎么选一句话
缺地基 → LlamaIndex;缺会搜的 Agent → QAgent;query 差 → SmartSearch;想拼装策略 → composer;想自动进化配置 → SIARE;要好训练集 → FORT。


4. 工具与协议类:怎么「接到真实世界」

方案抽象层级跨产品复用突出特点更适合
MCP工具/资源协议高(多客户端可复用同一 Server)工具标准化、生态快多 Agent/多 IDE 共用工具面
OpenAI / 各厂 Function Calling模型原生工具调用绑定厂商 schema路径最短单厂商、快速闭环
各框架 Tools 封装(LangChain/SK/…)框架内 Tool 对象与编排深度集成已选某编排框架时

这类通常 不是替代编排,而是编排节点里的能力插头。


5. 记忆与状态类:怎么「记住并续上」

方案记忆形态突出特点更适合
LangGraph Checkpoint工作流状态快照与控流一体,可 Resume/回放任务状态、审批断点
Mem0 / Zep 等长期用户/实体记忆跨会话画像与事实沉淀个性化助手、CRM 式记忆
Redis + Postgres/pgvector会话缓存 + 长期向量/结构化可控、易合规、易审计企业自建、要数据主权

选型要点:工作流状态(跑到第几步)和 认知记忆(用户偏好/事实)别混成一个桶。


6. 训练与数据合成类:怎么「变强」而不是「多写 if」

框架/方向输入→输出方法突出特点更适合
FORT合成难例数据 → SFT抗捷径理论约束专治虚假多步训练深度搜索 Agent
QAgent / SmartSearch 训练链路交互轨迹 → RL/课程学习RL、过程监督直接优化搜索行为有算力与评测集的团队
通用 SFT/RLHF/RLAIF 管线轨迹与偏好数据 → 策略模型经典对齐训练可服务任意 Agent 技能平台型模型团队

这类偏 研究/训练平台;线上推理仍要落到编排 + 检索 + 工具。


7. 观测与评测类:怎么「看得见、收得住」

工具重心突出特点更适合
LangSmithTrace + 数据集评测与 LangChain/LangGraph 最顺已在 Lang 生态
Langfuse开源可自托管 Trace/评分数据留在自己侧要私有化、可控成本
Phoenix追踪 + 检索/Embedding 分析偏排查质量与向量问题RAG 质量深挖
RAGAS 等离线 RAG 指标忠实度/相关性等套件回归与发布门槛

生产经验:编排和检索定了之后,观测几乎是必选项,否则无法迭代。


8. 耐久执行类:怎么「跑很久还不翻车」

方案角色突出特点更适合
Temporal (+ Agent 编排)工作流引擎长事务、重试、可恢复;Activity 需幂等跨分钟~天、副作用敏感
仅用 LangGraph CheckpointAgent 运行时持久化够用中长任务与 HITL多数交互式业务流
队列自研(Celery/MQ)异步投递灵活但要自补编排语义已有成熟任务中间件团队

9. 垂直场景类(简表)

方向代表形态特点注意
代码 AgentCursor、开源 coding agent仓库感知、工具链强通用编排替代不了深层 IDE 集成
浏览器 / 桌面 RPA Agent浏览器操作类框架视觉/DOM 操作稳定性与权限风险高
客服 / 工单 Agent业务套件或自研流程+知识库绑定紧常=编排+RAG+HITL 组合拳

跨类对照:一张表看「你该先买哪一层」

你的主痛点优先大类首选倾向可叠加
分支乱、无法审批/恢复1 编排LangGraph7 观测、8 Temporal
多人协作像项目组2 协作CrewAI / AutoGen1 编排加固
答不准、召回差3 检索LlamaIndex → 再选 QAgent/SmartSearch/composer7 评测
接不到内部系统4 工具MCP + 编排 Tools
下一会话就忘5 记忆Checkpoint + 长期记忆方案
模型不会真多步搜6 训练FORT / RL 搜索训练3 检索
线上不知贵在哪、错在哪7 观测Langfuse / LangSmith全类
任务要跑很久8 耐久Temporal + 编排幂等治理
只要某一业态开箱9 垂直对应产品/套件仍建议保留观测

推荐落地组合(三条样板)

A. 企业知识助手(Java 中台常见)
Spring Gateway + LangGraph/编排服务 + LlamaIndex/RAG + MCP 工具 + Langfuse +(必要时)HITL

B. 内容/研究型多 Agent
CrewAI 或 AutoGen(协作)+ LlamaIndex(材料检索)+ 观测;流程变硬后再迁部分到 LangGraph

C. 深度搜索能力建设(偏研究)
FORT 造数 → QAgent/SmartSearch 训练 → 线上推理挂进 LangGraph 节点


和「九大类」的对应关系(速记)

9 垂直应用
 ↑
1 编排  ↔  2 多 Agent 协作
 ↑
3 检索/RAG   4 工具/MCP   5 记忆
 ↑
6 训练/数据(让 3/1 变强)
 ↑
7 观测/评测(横切)
8 耐久执行(横切,托住长任务)

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐