吴恩达《Evaluating AI Agents》Agent评测课程五分钟速读

视频课程链接：https://learn.deeplearning.ai/courses/evaluating-ai-agents/lesson/sqkza/introduction

大模型全套学习教程资料点击这里获取NO米！

课程提供了一个关于AI智能体评估的完整框架。从智能体的基本架构讲起，指导如何通过追踪技术（使用OpenTelemetry和Arize Phoenix）实现其内部运行的可观测性。核心在于介绍了三种评估技术（代码评估、LLM裁判、人工标注），并详细说明了如何将这些技术应用于评估智能体的各个组成部分（路由决策、技能输出、执行路径效率）。最后，课程展示了如何通过“评估驱动开发”流程，将这些评估系统化，通过策划数据集、运行对照实验来科学地度量和迭代智能体性能，并将此流程从开发阶段延伸至生产环境的持续监控与改进中。

---

分章节总结：

第一部分：课程概述与智能体基础

• 核心内容：本课程系统性地介绍了AI智能体的评估方法与流程，强调通过“评估驱动开发”来高效构建和优化智能体。课程以一个“数据分析助手”为示例智能体，贯穿始终，演示从构建、追踪、评估到迭代改进的全过程。
• 关键知识点：

• 评估驱动开发：通过系统性的评估来指导开发决策，而非随机尝试，这类似于机器学习中的“误差分析”。
• 智能体定义：一个能代表用户执行行动（如调用工具、API）的软件系统，核心包括推理、路由和行动。
• 示例智能体：一个具备数据查询、数据分析和数据可视化三个工具的数据分析助手。

第二部分：智能体架构分解与实现

• 核心内容：深入剖析了智能体的核心组件，并通过代码实验室实际构建了示例智能体，为其后续的追踪和评估奠定基础。
• 关键知识点：三大核心组件

• 路由器：智能体的“大脑”，负责根据用户输入决定调用哪个工具。通常由具备函数调用能力的LLM担当。
• 技能/工具：智能体能够执行的具体任务（如执行SQL、生成分析报告、创建可视化代码）。一个技能本身可以包含多个步骤（如先生成图表配置，再生成代码）。
• 内存与状态：存储对话历史、上下文信息等，供各个组件访问。
• 智能体构建：使用OpenAI的函数调用作为路由器，明确定义每个工具的功能描述和参数，这对于路由器的正确决策至关重要。

第三部分：可观测性与追踪

• 核心内容：为了评估智能体，首先需要了解其内部运行情况。这部分介绍了如何为智能体添加可观测性，以收集其执行过程中的详细数据。
• 关键知识点：

• 核心概念

• 轨迹：一次完整的智能体运行过程。

• 跨度：轨迹中的一个独立步骤（如一次LLM调用、一次工具执行）。

• OpenTelemetry：行业标准的可观测性框架。

• 工具与实践

• Arize Phoenix：用于收集、可视化和分析追踪数据的平台。

• 插桩：通过自动（对常用库）和手动（使用装饰器或上下文管理器）方式在代码中标记需要追踪的片段。

• 价值：追踪是调试和后续大规模评估的数据基础。

第四部分：评估方法与技术

• 核心内容：介绍了三种主流的评估技术，并详细说明了如何将它们应用于评估智能体的不同部分（路由器、技能和整体轨迹）。
• 关键知识点：

• 三大评估技术：

• 基于代码的评估：适用于有明确规则的检查（如代码是否可运行、输出是否符合正则表达式、是否与预期答案完全匹配）。确定性高，但灵活性低。
• LLM作为裁判：使用另一个LLM（通常是更强大的模型）来评估定性指标（如回答相关性、分析清晰度、工具选择正确性）。扩展性强，但非100%准确。
• 人工标注：通过专家或用户反馈（如点赞/点踩）进行评估。最准确，但成本高且难以扩展。

• 评估对象：

• 路由器评估：评估其“工具选择”和“参数提取”是否正确。
• 技能评估：针对每个工具的输出进行评估（如SQL正确性、分析清晰度、生成代码可运行性）。
• 轨迹评估：评估智能体完成任务的路径效率，通过收敛分数来衡量（即执行相同类型任务时，采取最优路径的频率）。

第五部分：系统化实验与迭代改进

• 核心内容：将前述的评估方法系统化，形成一个可重复的“评估驱动开发”闭环，用于科学地比较不同版本的智能体，并持续推动其改进。
• 关键知识点：

• 实验流程：

• 策划数据集：创建一个包含多样化和代表性输入（及预期输出）的测试用例集合。
• 运行实验：将数据集输入到不同的智能体变体（如更改了提示词、模型或逻辑的版本）中运行。
• 应用评估器：对所有运行结果执行之前定义的各种评估。
• 分析与迭代：比较评估结果，识别改进点，进行修改，然后再次运行实验。

• 工具支持：使用Phoenix的实验功能来管理数据集、运行任务和比较结果。利用Prompt Playground快速迭代和测试提示词变更。
• 改进评估器本身：可以使用相同的实验框架，通过对比“LLM裁判”的结果与“代码评估”或“人工标注”的ground truth，来优化LLM裁判的提示词和模型。

第六部分：生产环境监控与课程总结

• 核心内容：讨论了将智能体部署到生产环境后面临的新挑战，以及如何将开发阶段的评估实践延续到生产监控中，并总结了整个课程。
• 关键知识点：

• 生产环境挑战：会出现训练时未见过的新问题，如用户的新奇查询、下游API故障、以及因A/B测试或模型更新引入的回归问题。
• 生产监控：

• 持续收集追踪数据和用户反馈。
• 建立从生产环境到开发环境的反馈闭环，将生产中的数据作为新的测试用例，用于持续改进。
• 监控评估指标，确保智能体性能不会在迭代中下降。

• 总结：掌握了一套完整的智能体评估方法论，能够系统地构建、观测、评估和迭代AI智能体。
  大模型全套学习教程资料点击这里获取NO米！