5个顶级Agent框架-之二：前3个比较常见，后两个很好用但大多数人不知道

AI Agent是自主程序，旨在感知其环境并采取行动以实现特定目标。由于强大的构建和部署这些代理的平台的普及，现在各种规模的企业都可以访问这些Agent。这些平台正在使人工智能民主化，使组织能够利用尖端技术，而无需深入了解机器学习或神经网络架构。这些平台的重要性不言而喻。它们不仅仅是工具；它们是创新的催化剂，使企业能够达成以下目的：快速原型和部署人工智能解决方案为特定行业需求定制代理在整个组织中扩

大靠山

2275人浏览 · 2024-09-18 20:31:02

大靠山 · 2024-09-18 20:31:02 发布

AI Agent是自主程序，旨在感知其环境并采取行动以实现特定目标。

由于强大的构建和部署这些代理的平台的普及，现在各种规模的企业都可以访问这些Agent。这些平台正在使人工智能民主化，使组织能够利用尖端技术，而无需深入了解机器学习或神经网络架构。

这些平台的重要性不言而喻。它们不仅仅是工具；它们是创新的催化剂，使企业能够达成以下目的：

快速原型和部署人工智能解决方案
为特定行业需求定制代理
在整个组织中扩展人工智能能力
将先进的人工智能功能集成到现有系统中

当我们深入研究构建AI Agent的顶级平台时，我们将探讨每个平台or框架如何使你的企业能够保持在人工智能发展的最前沿。

1. crewAI

crewAI 是一个创新的开源框架，旨在促进复杂的多代理人工智能系统的创建。

主要特点：

•基于角色的代理设计，具有可定制的目标和背景故事

•灵活的记忆系统（短期、长期和共享）

•可扩展的工具框架

•系列、并行或分层的多代理协作

•内置的防护栏和错误处理

使用案例和好处：

•项目管理：crewAI 可以模拟项目管理团队，不同的代理处理调度、资源分配和风险评估。

•财务分析：代理可以被分配为市场分析师、风险评估师和投资策略师等角色，共同提供全面的财务见解。

•内容创作：一组代理可以共同合作进行内容创作，包括研究、写作、编辑和 SEO 优化等角色。

限制和规模：

虽然 crewAI 是构建多代理人 AI 系统的强大框架，但它也有一定的限制：

•需要编程专业知识，限制了非技术用户的可访问性

•缺乏内置的安全功能，如数据加密和 OAuth 认证

•没有托管解决方案，需要开发人员管理部署和扩展

•由于多个代理人的交互，可能需要更多的资源

•代理人的内存管理复杂

crewAI 可以处理的项目的最大规模无法明确说明。然而，它的架构表明它可以通过精心设计和资源管理来管理复杂的大型项目。它可能更适合于小型到中型规模的项目，而不是没有重大定制的全面企业解决方案。

集成能力：

crewAI 为专有平台提供了几种集成选项：

•Webhooks 支持（在 crewAI+ ）

•gRPC 支持高性能远程过程调用

•API 创建能力（在 crewAI+ 中）

•环境变量配置，便于部署

•为与专有系统交互创建定制工具

这些功能允许与各种系统灵活集成，尽管确切的过程可能会因特定专有平台而有所不同。

价格

crewAI 在 GitHub 上提供免费的开源版本。然而，企业使用（crewAI+）的具体定价信息取决于每个案例。用户应考虑额外的成本，如语言模型的 API 使用和计算资源。有关详细的定价和条款，建议直接联系 crewAI 的团队或查看他们的官方网站以获取最新信息。

什么让 crewAI 脱颖而出？

crewAI 的突出特点仍然是其基于角色的代理设计，能够创建高度专业化的 AI 团队，能够处理需要多样专业知识和观点的复杂工作流程。然而，潜在用户在评估 crewAI 是否适用于他们的项目时，应仔细考虑技术要求和限制。

2. AutoGen

AutoGen，由微软开发，是一个开源框架，正在推动企业环境中AI代理所能实现的边界。

主要特点：

•用于复杂问题解决的多代理架构

•可定制和可对话的代理

•与各种大型语言模型（LLMs）无缝集成

•代码生成和执行能力

•灵活的人在环功能

使用案例和好处：

•软件开发：AutoGen的代码生成和执行能力使其成为协助开发人员、自动化代码审查和原型应用的理想选择。

•数据分析：其多代理架构允许进行复杂的数据处理管道，不同的代理可以处理数据清洗、分析和可视化任务。

•客户服务：AutoGen可以为能够理解上下文、生成适当回应并代表客户执行操作的高级聊天机器人提供动力。

限制和规模：

虽然 AutoGen 很强大，但在大规模企业解决方案中面临一些挑战：

•大规模情况下的复杂性和不一致性，特别是针对生产就绪的应用程序

•使用强大模型如 GPT-4 时的高成本和令牌限制

•可能影响大量内容分析的上下文窗口限制

•需要大量的工作来实现企业级的健壮性、安全性和可扩展性

AutoGen 可能更适合于小到中等规模的应用，而不是没有经过精心设计和测试的大型企业级解决方案。

集成能力：

AutoGen 的开源性质为定制提供了灵活性。它支持：

•容器化的代码执行，可能允许与专有 API 进行交互

•可定制的工作流程和代理定义

•与 Azure OpenAI 服务等云服务的集成

开发人员可以设计与特定专有平台配合工作的代理和对话流程，尽管这可能需要定制开发工作。

Azure 集成：

AutoGen 与 Azure 集成的方式有：

1.支持部署在 Azure OpenAI 服务上的模型

2.可以部署到 Azure 容器应用程序

3.与 Azure 认知搜索一起工作，用于数据提取

4.可以调用 Azure 逻辑应用程序工作流作为函数

LLM 支持：

AutoGen 支持多种 LLM，不仅限于 OpenAI 的模型：

1.通过 Hugging Face Transformers 支持开源 LLM（例如 LLaMA, Alpaca, Falcon）

2.FastChat 模型作为 OpenAI API 的本地替代品

3.Azure OpenAI 服务模型

4.谷歌 Gemini 模型，包括多模态能力

5.来自 Anthropic, Mistral AI, Together.AI, 和 Groq 的模型

6.LLM Studio 用于使用下载的语言模型

这种多样化的 LLM 支持允许开发人员根据特定需求和成本考虑混合和匹配模型。

价格：

AutoGen 是一个开源框架，可以在 GitHub 上免费使用。然而，用户应考虑以下相关成本：

•商业 AI 模型的 API 使用

•运行代理所需的计算资源

AutoGen 有何独特之处？

AutoGen 的独特之处仍然是其多代理对话框架，能够实现复杂和微妙的问题解决。然而，潜在用户在评估 AutoGen 用于其项目时，应仔细考虑技术要求、限制和相关成本。

3. LangChain

LangChain 是一个功能丰富的框架，简化了由语言模型驱动的应用程序构建过程。

主要特点：

•模块化和可扩展的架构

•统一接口，适用于多个LLM提供商

•丰富的预构建组件（提示，解析器，向量存储）

•用于复杂任务执行的代理功能

•用于维护上下文的复杂内存管理

使用案例和优势：

•文档分析：LangChain 擅长于对大型文档集进行摘要、实体提取和情感分析等任务。

•上下文聊天机器人：其内存管理能力使得可以创建能够在长时间对话中保持上下文的聊天机器人。

•研究助手：LangChain 可以为能够从各种来源搜索、综合和呈现信息的 AI 代理提供动力。

限制和规模：

虽然 LangChain 很强大，但在大规模企业解决方案中面临一些挑战：

•缺乏生产就绪性：被描述为一个不断变化的“副业”，存在未修补的漏洞。

•规模上的复杂性和不一致性：对于复杂的、生产就绪的应用程序，性能可能不一致。

•高成本：运行基于 LangChain 的系统可能会因为 API 使用、托管和 GPU 成本而在大规模部署中变得昂贵。

•速率限制： API 速率限制对于高流量的企业应用可能会成为问题。

•内存管理挑战：在规模上高效地管理代理内存是困难的。

LangChain 可能更适合于小到中等规模的应用，而不是没有经过精心设计和测试的大型企业解决方案。

集成能力：

LangChain 提供了几种选项，可以将 AI 代理集成到专有平台中：

•API 集成：提供 API 以连接并从现有代码中查询 LLMs。

•模块化架构：可以将特定组件合并到现有系统中。

•可定制的代理和工具：可以设计为与专有 API 和服务进行交互。

•开源框架：允许修改和扩展以与专有系统对齐。

LLM 支持：

LangChain 支持多种 LLM 提供商和模型：

1.OpenAI（包括 GPT-3 和 GPT-4）

2.Hugging Face 模型（例如，BLOOM，GPT-Neo）

3.Cohere

4.AI21（例如，Jurassic-1）

5.Anthropic（例如，Claude）

6.Azure OpenAI

7.Google PaLM

8.Replicate

9.本地运行的开源模型（例如，GPT-J，GPT-NeoX，BLOOM）

这种广泛的支持使开发人员能够选择最适合其应用程序的模型，同时利用 LangChain 的抽象和实用工具。

价格：

LangChain 提供多种定价层次：

•免费开发者计划：每月包括前10k条迹

•Plus 计划：每个座位每月 $39，每月10k条免费

•企业计划：定制定价

额外的迹将按照每1k条基础迹收费 $0.50（保留14天）或者每1k条迹延长400天保留期的费用为 $5。

“迹”是指在LangChain中完整调用应用程序链、代理、评估器运行或游乐场运行的一次。单个迹可以包括许多LLM调用或其他跟踪事件。

官方定价详情可以在LangChain网站的专门的定价页面找到。

请注意，虽然核心LangChain框架是开源和免费的，但使用付费的LLM API将会产生这些API成本。

LangChain 有何独特之处？

LangChain的独特之处在于其灵活性和可扩展性。该框架的模块化设计使开发人员能够轻松替换组件，与各种LLM提供商集成，并使用自定义工具扩展功能。这使LangChain非常适应各种企业需求，从简单的自动化任务到涉及多种AI技术的复杂多步工作流程。然而，潜在用户在评估LangChain用于其项目时，尤其是大规模企业部署时，应仔细考虑技术要求、限制和相关成本。

4. Vertex AI Agent Builder

Vertex AI Agent Builder，谷歌云的产品，提供了一个强大的平台，可以创建企业级的生成式人工智能应用，无需深度机器学习专业知识。

主要特点：

•无代码控制台，用于快速开发代理

•高级框架支持（例如 LangChain），用于复杂用例

•与谷歌的基础模型和搜索能力集成

•企业数据基础，用于准确和上下文相关的响应

•函数调用和预构建扩展模块

•企业级安全性和合规特性

使用案例和好处：

•客户支持：创建能够访问公司知识库并提供准确、情境化回应的聊天机器人。

•内部知识管理：开发能够在各种企业数据源中搜索和综合信息的代理。

•流程自动化：构建能够理解复杂请求并在不同系统中执行多步流程的代理。

限制和规模：

虽然 Vertex AI Agent Builder 是为企业使用而设计的，但它有一定的限制：

•资源的配额和限制（例如，每个项目 1,000,000 个文档，每个项目每分钟 300 个查询请求）

•缺乏详细的案例研究，证明大规模企业部署的情况

•对于非常大规模的应用程序可能需要额外的定制和基础设施工作

该平台似乎非常适合小型到中型规模的应用程序，通过与谷歌云合作增加配额，有潜力实现更大规模的部署。

集成能力：

Vertex AI Agent Builder为专有平台提供多种集成选项：

•用于搜索、聊天、推荐和其他AI功能的API

•用于与专有工作流实时集成的Webhooks

•用于快速UI集成的可嵌入式小部件

•通过Google Cloud Run进行无服务器部署

•用于企业数据源（例如Jira、ServiceNow、Hadoop）的连接器

•用于高级定制的LangChain集成

•用于移动应用集成的Firebase和移动SDKs

价格：

Vertex AI 的定价结构：

•Vertex AI 代理人聊天：每1,000个查询12.00美元

•Vertex AI 代理人语音：每秒0.002美元

•Vertex AI 搜索（标准版）：每1,000个查询2.00美元

•有免费套餐可供选择，但有使用限制

•合作伙伴模型定价（例如，Anthropic 的 Claude）基于输入和输出的标记

什么让 Vertex AI 脱颖而出？

Vertex AI Agent Builder 的突出特点是其与企业数据源和系统的无缝集成。这种对受信任的企业数据的“基础”确保了 AI 代理提供准确、最新和合规的响应。再加上其企业级安全功能和符合 HIPAA 和 ISO 等行业标准，这使得 Vertex AI Agent Builder 特别适用于数据生态复杂且监管要求严格的组织。

该平台的无代码选项和预构建模板加速了开发，而更高级的用户可以利用 LangChain 集成进行自定义工作流。这种灵活性，再加上 Google Cloud 的可扩展基础设施，使 Vertex AI Agent Builder 成为那些希望在各种规模上部署 AI 解决方案的企业的强有力竞争者，从小型部门项目到潜在的大型企业范围的倡议。

5. Cogniflow

Cogniflow提供了一个无代码AI平台，使AI开发民主化，允许用户在不需要编码专业知识的情况下构建和部署AI模型。

主要特点：

•直观的拖放界面用于模型构建

•支持各种数据类型（文本、图像、音频、视频）

•预训练模型市场，适用于常见用例

•与流行的商业应用程序无缝集成

•协作和共享功能

使用案例和好处：

•预测性维护：构建模型分析传感器数据，预测设备故障发生之前的情况。

•内容审核：开发能够自动过滤和分类各种媒体类型用户生成内容的AI代理。

•市场趋势分析：创建处理多样数据源，识别新兴市场趋势和消费者行为的模型。

限制和规模：

虽然 Cogniflow 设计用于易用性，但对于大规模企业解决方案存在一些限制：

•无代码性质可能会限制对非常高级或利基企业用例的定制

•缺乏展示大规模、复杂企业部署的详细案例研究

•最高标准层支持每月 500 万积分，这可能需要针对更大规模部署的定制合同

•为便于访问和速度进行了优化，这可能涉及最大复杂性和规模的权衡

Cogniflow 似乎非常适合小到中等规模的 AI 项目和许多常见的企业 AI 场景。更大或更复杂的部署可能需要定制的企业解决方案。

集成能力：

Cogniflow 提供了几种选项，用于将 AI 代理集成到专有平台中：

•API 集成：公开 API，用于连接任何 Web 应用到 Cogniflow AI 模型

•无代码集成：预构建连接器，适用于平台如 Excel、Google Sheets、Zapier、Make 和 Bubble

•文件处理：能够通过 URL 或直接上传处理各种文件类型（文本、图像、视频、音频）

•市场和社区：选项，用于集成 Cogniflow 市场上的预构建模型

价格：

Cogniflow 提供月度和年度定价计划：

•免费：每天 50 次预测，每月 5 次训练，1 个用户，非商业用途

•个人：每月 $50（每月按年计费 $40），每月 5,000 次预测，每月 10 次训练，1 个用户

•专业：每月 $250（每月按年计费 $200），每月 50,000 次预测，每月 50 次训练，最多 5 个用户

•企业：定制定价，量价折扣，无限用户，主动学习，专门的入职培训

定价基于信用系统，不同的模型消耗不同数量的积分。超额使用会产生额外费用。

Cogniflow 有何独特之处？

Cogniflow 的独特之处在于其易用性。该平台采用无代码方法和直观界面，使得那些可能没有编程技能的商业用户和领域专家也能够进行AI开发。这种AI的民主化可以导致更多多样化和行业特定的AI应用，因为那些最接近业务问题的人可以直接参与创建AI解决方案。

该平台对各种数据类型、预构建模型和易于集成的支持，使得能够快速开发和部署各种用例的AI解决方案。虽然在最复杂的企业场景下可能存在一些限制，但对于那些希望快速高效实施AI计划的组织来说，Cogniflow 提供了强大的解决方案，特别是那些没有丰富内部AI专业知识的组织。

为您的企业选择合适的平台

选择适合您企业的理想人工智能代理平台需要仔细考虑几个因素：

需要考虑的因素：

1.技术专长：评估您团队的人工智能和编码能力。像 Cogniflow 和 Vertex AI Agent Builder 这样的平台提供了无代码选项，而 AutoGen 和 LangChain 可能需要更多的技术专长。

2.使用案例复杂性：考虑您打算的人工智能应用的复杂性。对于多代理系统，AutoGen 或 crewAI 可能更合适，而更简单的用例可能适合于 Cogniflow。

3.集成需求：评估平台与您现有基础设施和数据源的集成情况。例如，Vertex AI Agent Builder 提供了强大的企业集成能力。

4.可扩展性：考虑您当前的需求和未来的增长。确保平台能够处理不断增加的工作负载和不断扩大的用例。

5.定制需求：如果您需要高度专业化的人工智能代理，像 LangChain 或 crewAI 这样的平台提供了广泛的定制选项。

6.安全性和合规性：对于有严格监管要求的行业，考虑具有强大安全功能的平台，比如 Vertex AI Agent Builder。

7.预算：考虑初始实施成本和持续运营费用。

AI Agent框架和平台的崛起正在引领企业创新的新时代。

从AutoGen的复杂多代理系统到Cogniflow的用户友好的无代码方法，我们探索的每个平台都提供了独特的能力，以满足不同的企业需求。

随着AI的不断发展，这些平台将在塑造未来业务运营、客户体验和决策过程方面发挥关键作用。

企业的关键在于仔细评估其特定需求，并选择与其技术能力、用例和长期AI战略相一致的平台。通过拥抱这些构建AI代理的强大工具，组织可以将自己定位在创新的最前沿，在日益由AI驱动的商业格局中获得竞争优势。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述