从“会调用工具”的 AI，到“了解用户、掌握知识”的智能助手

上一篇文章我们介绍了 AI Agent 的核心能力：

• LLM 负责理解和推理
• Function Calling 让 AI 调用工具
• Tool 系统让 AI 连接外部能力

一个简单的 Agent 已经可以完成：

用户提出问题

↓

LLM 理解需求

↓

选择工具

↓

执行任务

↓

返回结果

例如：
用户：
> 查询一下广州天气。
Agent：

用户问题

↓

LLM 判断需要天气信息

↓

调用 weather 工具

↓

获取天气结果

↓

生成回答

但是，一个真正可用的 AI 助手，还需要解决两个更重要的问题：

---

第一个问题：

AI 每次聊天都像第一次认识我，它如何理解我的习惯和背景？

第二个问题：

AI 本身不知道我的公司资料、个人文件，它如何获得这些知识？

这两个问题分别对应：

• Memory（记忆系统）
• RAG（检索增强生成）

它们也是现代 AI Agent 的两个核心能力。

---

一、为什么 Agent 需要 Memory？

我们人类交流有一个非常自然的能力：

记忆。

例如：

第一次聊天：

我叫小明，是一家互联网公司的产品经理。

第二次聊天：

最近我要负责一个 AI 项目。

朋友会知道：

“小明是一名产品经理。”

所以交流会越来越自然。

---

但是，大语言模型（LLM）默认并没有这种能力。

每一次请求：

用户
↓
LLM
↓
回答

模型并不知道：

• 你是谁
• 你的工作背景
• 你的兴趣习惯
• 之前聊过什么

除非这些信息被重新发送给它。

所以：

Memory 的作用，就是让 Agent 拥有持续记忆能力。

---

二、Memory 到底保存什么？

很多人认为：

Memory 就是保存聊天记录。

其实并不完全准确。

完整的 Memory 系统通常包含：

Memory
├── 短期记忆
│
├── 长期记忆
│
└── 用户事实记忆

---

1. 短期记忆（Short-term Memory）
   ==========================

短期记忆就是：

当前对话上下文。

例如：

用户：
我喜欢喝咖啡。
AI：
好的，我知道了。
用户：
推荐一个饮品。

为什么 AI 知道用户喜欢咖啡？

因为之前的信息还存在：

[
{
"role": "user",
"content": "我喜欢喝咖啡"
},
{
"role": "assistant",
"content": "好的，我知道了"
}
]

这种方式叫：

Conversation Buffer（对话缓冲区）

---

但是短期记忆有一个问题：

如果关闭聊天窗口：

上下文消失。

下一次：

AI 又不知道之前发生过什么。

---

2. 长期记忆（Long-term Memory）
   =========================

长期记忆解决的是：

如何让 AI 跨时间记住重要信息。

例如：

用户告诉 AI：

我的公司叫 ABC 科技。
我的职位是产品经理。
我喜欢阅读 AI 技术文章。

系统可以提取：

{
"company": "ABC科技",
"job": "产品经理",
"interest": "AI技术文章"
}

然后保存到数据库。

下一次聊天：

AI 可以重新加载这些信息。

例如：

用户：

帮我写一篇技术文章。

Agent：

读取记忆：

用户：
- 喜欢技术内容
- 运营公众号
- 偏好 Markdown 格式

然后生成更符合用户需求的内容。

---

三、Memory 在 Agent 中的位置

完整结构：

用户
|
↓
Agent
|
-----------------
|               |
LLM           Memory
|
用户信息库

Agent 的工作流程：

1. 用户提出问题
2. 查询相关记忆
3. 将记忆加入 Prompt
4. 调用 LLM
5. 生成回答

---

例如：

用户：

帮我规划学习路线。

Memory：

找到：

用户背景：
- Java开发经验
- 正在学习AI
- 想转型AI应用方向

LLM 就可以给出更符合用户情况的建议。

---

四、为什么还需要 RAG？

Memory 解决：

AI 记住用户。

但是还有另一个问题：

AI 不知道用户自己的知识资料。

例如企业内部：

员工手册.pdf
产品说明书.docx
技术文档.md
销售数据.xlsx

这些内容：

没有出现在模型训练数据里。

所以：

LLM 不知道。

怎么办？

答案：

RAG。

---

五、什么是 RAG？

RAG：

Retrieval-Augmented Generation

中文：

检索增强生成。

简单理解：

让 AI 在回答问题之前：

先去知识库搜索相关资料。

流程：

用户问题
↓
搜索知识库
↓
找到相关资料
↓
交给 LLM
↓
生成答案

---

例如：

用户：

公司年假是多少？

普通 LLM：

我不知道你公司的年假制度。

RAG：

先搜索：

员工手册.pdf
↓
找到：
员工连续工作满一年，
享受5天带薪年假。

然后：

LLM：

根据员工手册，公司员工连续工作满一年，可以享受5天带薪年假。

---

六、RAG 的完整流程

一个完整 RAG 系统：

文档
|
↓
Loader
|
↓
Chunk
|
↓
Embedding
|
↓
Vector Database
|
↓
Retriever
|
↓
LLM
|
↓
Answer

---

第一步：Loader（文档加载）

负责读取各种文件：

例如：

PDF
Word
Markdown
Excel
网页

转换成统一的数据结构：

Document

---

第二步：Chunk（文本切分）

为什么需要切分？

因为一个文档可能非常长。

例如：

一本 200 页的 PDF：

不能全部发送给 LLM。

所以需要拆成：

Chunk 1
Chunk 2
Chunk 3
...

每个小片段作为独立知识单元。

---

第三步：Embedding（向量化）

计算机无法直接理解文字。

所以需要把文本转换成向量。

例如：

文本：

员工年假5天

转换：

[0.23,0.51,0.88,...]

这个过程叫：

Embedding。

---

第四步：Vector Database（向量数据库）

保存：

文本内容
+
向量
+
元数据

例如：

文本：
员工满一年享受5天年假
向量：
[0.23,0.51...]
来源：
员工手册.pdf

常见向量数据库：

• Chroma
• Milvus
• FAISS

---

第五步：Retriever（检索）

用户：

公司的年假是多少？

系统：

先把问题转换成向量。

然后在向量数据库搜索：

最相似的内容。

返回：

员工手册第三章：
员工工作满一年享受5天年假。

---

七、Memory 和 RAG 的区别

很多人容易混淆。

简单理解：

能力	解决的问题
Memory	AI记住用户
RAG	AI获取外部知识

举例：

Memory：

用户喜欢喝咖啡。

这是：

用户信息。

RAG：

公司的咖啡报销制度。

这是：

知识信息。

---

八、现代 AI Agent 的完整架构

现在，一个完整 Agent：

用户
|
↓
AI Agent
|
--------------------------------
|              |               |
Tools          Memory           RAG
|              |               |
外部能力       用户信息        企业知识库
|
↓
LLM

三种能力分别解决：

---

Tool

让 AI：

会做事。

例如：

• 查询天气
• 查询数据库
• 发送邮件

---

Memory

让 AI：

了解用户。

例如：

• 用户身份
• 用户偏好
• 历史信息

---

RAG

让 AI：

掌握自己的知识。

例如：

• 企业文档
• 产品资料
• 私有数据

---

九、回到我们的 Mini-Agent 项目

我们自己实现的 Mini-Agent：

已经逐步具备：

Mini-Agent
├── Function Calling
│
├── Tool System
│
├── Agent Loop
│
├── Memory
│
└── RAG

它的核心思想和企业 AI Agent 架构是一致的。

我们并不是重新训练一个 AI 模型。

而是在利用已有的大语言模型，通过：

工具
+
记忆
+
知识库
+
任务规划

让一个通用模型变成一个真正解决问题的智能助手。

---

十、下一步学习方向

完成 Memory 和 RAG 后，Agent 还需要解决：

MCP（Model Context Protocol）

解决：

Agent 如何标准化连接更多外部工具？

例如：

• 文件系统
• 数据库
• 企业软件
• 第三方服务

---

Multi-Agent

解决：

多个 Agent 如何协作完成复杂任务？

例如：

研究Agent
↓
写作Agent
↓
审核Agent

---

Agent 工程化

包括：

• 权限管理
• 日志系统
• 异常处理
• 部署上线

---

最终：

AI Agent 的完整形态：

AI Agent
｜
----------------------
|          |          |
Tools     Memory       RAG
|          |          |
能行动    懂用户     有知识
|
↓
LLM

这就是从“大语言模型”走向“智能应用”的关键路径。

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】