很多企业刚上AI Agent的时候,思路都差不多,买一个大模型能力最强的产品,配一个全公司通用的助手,所有人对着同一个对话框提需求。上线前做demo,写邮件、查数据、做摘要,样样都行。真正跑业务跑了两个月,问题开始冒出来,合同审查的准确率忽高忽低,客服场景经常给错政策,写代码的助手不会写文档,写文档的助手不懂代码,一个Prompt调半天换个人又不灵了。然后团队就开始怀疑,是不是模型能力还不够强,等下一代模型出来就好了。

等下去可能会等很久,因为单Agent架构在企业场景里遇到的麻烦,很多跟模型参数量没关系,是架构本身的问题。

一个Agent再聪明,它的上下文窗口是有限的。给它灌整个公司的知识库、所有业务流程、各部门的规范制度,token量先爆炸,真正相关的信息被淹没在几十万字的上下文里,该看到的条款看不到。你让一个Agent同时精通合同审查、代码编写、财务分析和客服应答,就像招了一个什么都干的通用岗员工,短期应急可以,真要出专业质量的活,哪个方向都半桶水。企业内部用过通用Agent的团队基本都有这个体感,简单问答没问题,稍微复杂一点的专业任务,输出质量波动很大,每次都要人工兜底检查。

多Agent的思路是把专业能力拆开,合同审查让法律训练过的Agent干,代码生成让接了代码仓库上下文的Agent干,客服应答让学过最新产品政策的Agent干,每个Agent只需要精通自己那一块,上下文干净,专业度上去了,准确率自然稳定。这听上去像常识,很多团队也确实这么试了,但拆完之后发现新问题来了,几个Agent怎么配合?

把多个Agent简单串联在一起,上一个Agent的输出喂给下一个Agent,这种线性流水线做固定流程的任务还行,比如"收邮件→分类→生成回复草稿"。企业里的真实工作流比这复杂得多。写一份市场分析报告,可能需要三个Agent分别查竞品数据、整理用户反馈、分析行业趋势,三路并行做完之后汇总,汇总完还得有一个审核Agent挑毛病,挑完毛病打回去改,改完再交。这种任务有并行、有评审、有返工,硬串成一条线效率极低,中间任何一步出问题整条链就断了。

信息怎么流也是个大问题,所有Agent共享全部上下文的话,代码Agent能看到公司财务数据,法务Agent能看到产品源码,权限全乱了,企业IT部门第一个不答应。每个Agent只看自己那一块的话,又容易做出盲人摸象的判断,写报告的Agent不知道财务那边有预算限制,给出的方案根本落不了地。Octo在做这个事情的时候,把信息可见性拆成了六种编排模式来应对不同场景,圆桌讨论、独立评审、流水线、并行分治、同题竞作、单Agent独立完成,每种模式定义了不同的信息流转规则,谁能看到谁的输出、什么时候看到、看到多少,都按任务性质来定,不是所有Agent永远看所有信息。

这认知偏差挺大的,很多人觉得多Agent就是把任务分给多个AI一起干,人多多干活,实际上信息拓扑的设计才是多Agent系统能不能稳定跑业务的关键。代码review的时候做的人和审的人不能互相看到过程,否则reviewer会被writer的思路带偏,该挑的毛病挑不出来,跟人与人做code review不能站在旁边看着写是一个道理。头脑风暴的时候反过来,所有人要能看到所有人的想法才能碰撞。不同工作对信息流动的要求完全不同,单Agent系统里不存在这个问题,多Agent系统里这个问题解决不好,协作就是摆设。

单Agent模式下,对话记录就是工作记录,今天问明天查,上下文窗口够大就能翻到。多Agent并行干活的时候,谁接了什么任务、干到哪一步了、交付物在哪、谁来验收,靠翻聊天记录根本管不过来。Octo里用回路来管这件事,每个任务从对话里长出来,挂着负责人、交付物、验收记录,负责人可以是人也可以是Agent,交付物不管是文档还是代码都附在回路下面,一年后回来看也清楚当时谁做了什么、为什么这么做。验收环节不能省,Agent交了活必须有人或者另一个Agent审,不满意打回,打回的反馈沉淀成经验下次自动参考。

说到经验沉淀这件事,单Agent不是不能做,但企业场景里经验属于组织不属于个人。法务部积累的合同审查标准,客服团队打磨的话术规范,技术组沉淀的代码风格,这些知识如果只存在某个Agent的对话历史里,换个模型、换个部门就得重新教一遍。手停口停,跟员工离职带走经验一样。多Agent架构下经验可以在组织内共享,新加入的Agent直接继承已有的偏好和技能卡,不用从零开始调教,三个月下来和刚上线时的输出质量差距很明显。

有些任务涉及本地文件和内网系统,Agent必须跑在本地机器上;有些任务需要最强的长文理解能力,得调用云端的大模型;有些高频简单任务用小模型跑响应快成本低。一个Agent绑定一个模型一个运行时,要么全跑本地能力不够,要么全上云端数据出不去安全不过关。多Agent架构天然支持不同Agent跑在不同运行时上,本地的干本地的活,云端的干重活,编排层只关心每个Agent是谁、能干什么、干了什么,不管它跑在哪台机器上用的哪个模型。

企业刚开始试AI Agent,可以先用单个Agent跑通最简单的场景,把高频低风险的任务交给它,比如会议纪要整理、内部文档检索、常见问题应答。等团队对AI协作有体感了,再逐步拆分专业Agent,加上编排和任务管理能力。一上来就搞十几个Agent凑在一起,管理成本比人工还高,反而会把团队吓跑。

但单Agent跑demo可以,跑正式业务撑不了太久。业务量上来之后,专业度、权限、并行、验收这些问题一个接一个冒出来,到时候再补多Agent架构,迁移成本不低,已经写好的Prompt和流程得重新适配。提前想清楚哪些任务适合拆成多Agent协作,从第一个业务场景上线时就把执行层和编排层的地基打好,后面扩展会顺很多。

Octo在这块已经开源了六种编排模式、回路工作管理、Agent注册路由这些核心模块,项目地址是 , https://github.com/Mininglamp-OSS/octo-server , 代码和文档都在,想自己搭或者参考架构都可以直接看。

企业选Agent架构的时候,可以先拿一个真实的业务流程试跑一遍,从需求输入到最终交付,数清楚中间涉及几个专业角色、有没有并行环节、需不需要独立评审、验收标准是什么。如果整个流程一个Agent加一个对话窗口能搞定,那就用单Agent,别为了多Agent而多Agent。如果流程里有明确的角色分工、有并行步骤、有质量审核环节,多Agent架构从第一天就该上,省得后面返工。

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐