从零构建AI agent
1.智能体发展脉络:从规则系统,深度学习到大语言模型智能体
智能体是指能在特定环境中感知信息,自主完成任务并反馈的计算机实体。
2.智能体体系架构
智能体设计原则:
(1)用户友好降低使用门槛是第一原则
(2)系统智能,真正理解意图并完成任务
(3)可扩展性,模块化带来演进能力(每一个核心模块的输入输出,都应该是以插件的形式进行插拔方便拓展优化)
(4)高性价比让智能系统真正可以使用
六层架构,分别是:输入,意图,规划,执行,推理,反馈


3.智能系统的分层实现
用户输入与多模态交互

多轮上下文与用户状态维护
维护短期记忆与长期记忆,实现短期流畅化和长期个性化
系统接入与设备维护主要是以rest API的强调以资源为中心的交互方式
意图识别与任务路由
意图识别主要有三种方式:包含提示词工程(借助大模型进行以图识别),分类器(预设分类将这些意图映射到这些分类上),函数调用(将调用的工具的功能都用函数形式表述清楚,模型根据意图选择最合适的函数进行调用)
智能体注册与匹配机制
维护一个类似注册中心的东西,作为智能体的能力声明平台,其上面的每个智能体都要声明三类核心信息,包含数据格式,上下文或工具依赖,人物类型和意图标签
路由模块实现,智能体能力声明完之后,需要有路由模块,将任务投递给相应的智能体
路由模块由这三类构成,链式路由(依靠元数据,描述,工具标签分发用户请求),自定义意图路由(通常由赠则模板,规则树,深度学习分类器来进行分发),函数签名匹配(根据声明工具的描述进行匹配,路由到合适工具)
任务规划与编排
但智能体任务与多智能体任务链的区别主要在于单智能体任务更加简单直接,而多智能体任务之间需要相互配合,更加强调协作规划以及动态调整。
随着大模型能力的增强,多智能体的任务分解能力和与规划能力有了显著的提升,
任务执行与工具调用
任务智能体通常分为三个核心模块,分别是模型记忆工具(模型复责将任务规划为任务,工具是手脚负责执行任务,机遇在于维护上下文,追踪历史行为,保存用户偏好)
工具调用机制包括函数注册,输出格式,调用规范
系统级执行链包括并行条件,循环任务流控制
模型推理与路由选择,按照任务复制杂度进行任务的投递
本地模型与云端模型混合推理架构,根据任务类型与任务敏感度选择
成本优化与性能保障,简单任务用小模型,复杂任务用大模型降低费用,
记忆管理与反思反馈
反噬机制任务失败回溯与自我修正,记录失败与原因,重新规划修正与重试
系统优化,基于用户反馈和历史行为自学习
系统安全性与可信性保障(幻觉与错误响应的识别与抑制(可信阈值,多模型投票),指令攻击与隐私数据防护机制(prompt注入攻击防护)
可控性与审计追踪,调用日志记录,版本可追溯,权限控制与审计接口
更多推荐

所有评论(0)