Postman 是一款使用很广的 API 开发工具，它们也推出了 Postbot AI 助手，借此它们也分享了一些 AI 方面的工程见解，当然核心还是 API。

AI世界发生了什么

今年在 AI 领域发生了什么呢？

1：太多的 AI 基础模型

Anthropic的Claude、Google的Gemini、Meta的Llama以及Amazon新推出的Nova，都在努力追赶 OpenAI，期待提供不一样的能力，而 token 价格也是一减再减，模型的上下文窗口也越来越长，但基于 LLM 的工作方式，LLM 的能力好像也达到了极限。

另外普遍一个见解就是训练数据集快耗尽了，当然合成数据能缓解这个问题。

最重要的就是新模型和不断迭代的版本，让AI领域变得更加分散和复杂，开发者需要应对大量不同的AI模型和版本，整合的难度非常大，而且这些 AI 公司也是苦不堪言，系统快速的迭代，加上模型生成不可预测性，整个回归测试复杂度非常高，而且可追溯性也非常复杂。

当然也出现了一个新趋势，为特定任务和数据集设计的较小、专业化模型，包括边缘 AI 也发展的非常快，较小的模型可以更便宜、更快，帮助构建仅使用大型基础模型无法实现的体验。

2：提高模型准确性：微调和RAG

AI遇到的一个问题就是 AI 原型在测试环境下表现很不错，但与生产的系统存在很大的差距，需要花费大量时间评估和测试模型，但有两种公认的方法可以环境此问题。

首先就是微调，虽然开发人员喜欢调整所有参数，但实际上只用关注4-5个关键调整，随着模型提供商简化了微调过程，微调变得不那么耗时。

其次就是 RAG，通过上下文和集成外部数据源以增强LLM响应，这两种方法都需要仔细协调数据存储、检索和测试。

幻觉仍然是一个挑战，它们是上下文相关的，在创作领域可能是优势，但一些领域（比如金融）确实致命的缺点。

3：定制的领域模型

除了基础模型，大部分的团队都在使用专有数据集构建定制模型，能针对特定的业务需求进行优化，各大公司从性能、成本、可靠性角度考虑，在多云中部署AI应用程序，这些 AI 都通过 API 暴露，更方便与各种软件生态系统的无缝集成。

而且现在很多大模型都部署为容器运行，比如英伟达的 NIM 框架，总之模型的能力正大范围的以 API 的形式提供。

Agentic AI

随着 AI 的成熟，单次、仅文本的传统 LLM 模型向更复杂系统的转变，这就是代理，代理结合了LLM的推理能力与工具，以在结构化的多步工作流中执行任务，通常包括多个LLM共同工作，与软件系统一起实现复杂目标，这就是 Agentic AI 系统。

Agentic AI 的关键组件：

• • 反思

• • 工具使用（API调用）

• • 规划

• • 多代理协作

站在 Postman 的角度，将 LLM 本身的能力抽象为 API，而构建 Agentic AI 还是传统的整合手段。

现实世界如何操作 agents

1：系统思维，为Agentic AI系统定义API边界

虽然注意力仍然集中在模型上，但需要转向系统思维，开发人员需要将思维方式从“使用模型”转变为与完整系统互动，API 真是实现系统复杂性的关键，随着向多代理协作和推理迈进，掌握如何通过API连接和编排多个LLM变得至关重要。

2：构建可重用的API以供代理使用

Agentic AI 依赖外部工具，即API来执行操作，可重用的API对于实现无缝的代理工作流至关重要，

Anthropic 最近推出的 Model Context Protocol 协议就提供了一个框架，说明AI代理如何以结构化的方式与外部系统互动。

3：评估风险因素和API访问

Agentic AI 虽然很强大，但仍然不可预测，需要评估风险并设计具有适当防护措施的API，所以文档化 API 仍然很重要。

4：构建信任层和防护措施

在 Agentic AI 中建立信任依赖于两个关键要素：API防护措施和代理行为的保障，API 必须受到保护，其次对 Agentic AI 必须进行彻底的测试。

站在 Postman 的角度，从 API 角度理解 LLM 确实是非常简洁的理解方式，世界还是 API 的。

零基础如何学习AI大模型

领取方式在文末

为什么要学习大模型？

学习大模型课程的重要性在于它能够极大地促进个人在人工智能领域的专业发展。大模型技术，如自然语言处理和图像识别，正在推动着人工智能的新发展阶段。通过学习大模型课程，可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术，从而提升自己在数据处理、分析和决策制定方面的能力。此外，大模型技术在多个行业中的应用日益增加，掌握这一技术将有助于提高就业竞争力，并为未来的创新创业提供坚实的基础。

大模型典型应用场景

①AI+教育：智能教学助手和自动评分系统使个性化教育成为可能。通过AI分析学生的学习数据，提供量身定制的学习方案，提高学习效果。
②AI+医疗：智能诊断系统和个性化医疗方案让医疗服务更加精准高效。AI可以分析医学影像，辅助医生进行早期诊断，同时根据患者数据制定个性化治疗方案。
③AI+金融：智能投顾和风险管理系统帮助投资者做出更明智的决策，并实时监控金融市场，识别潜在风险。
④AI+制造：智能制造和自动化工厂提高了生产效率和质量。通过AI技术，工厂可以实现设备预测性维护，减少停机时间。
…
这些案例表明，学习大模型课程不仅能够提升个人技能，还能为企业带来实际效益，推动行业创新发展。

学习资料领取

如果你对大模型感兴趣，可以看看我整合并且整理成了一份AI大模型资料包，需要的小伙伴文末免费领取哦，无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发

部分资料展示

一、 AI大模型学习路线图

整个学习分为7个阶段

二、AI大模型实战案例

涵盖AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，皆可用。

三、视频和书籍PDF合集

从入门到进阶这里都有，跟着老师学习事半功倍。

四、LLM面试题

五、AI产品经理面试题

😝朋友们如果有需要的话，可以V扫描下方二维码联系领取~

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]👈