网罗开发 （小红书、快手、视频号同名）

  大家好，我是 展菲，目前在上市企业从事人工智能项目研发管理工作，平时热衷于分享各种编程领域的软硬技能知识以及前沿技术，包括iOS、前端、Harmony OS、Java、Python等方向。在移动端开发、鸿蒙开发、物联网、嵌入式、云原生、开源等领域有深厚造诣。

图书作者：《ESP32-C3 物联网工程开发实战》
图书作者：《SwiftUI 入门，进阶与实战》
超级个体：COC上海社区主理人
特约讲师：大学讲师，谷歌亚马逊分享嘉宾
科技博主：华为HDE/HDG

我的博客内容涵盖广泛，主要分享技术教程、Bug解决方案、开发工具使用、前沿科技资讯、产品评测与使用体验。我特别关注云服务产品评测、AI 产品对比、开发板性能测试以及技术报告，同时也会提供产品优缺点分析、横向对比，并分享技术沙龙与行业大会的参会体验。我的目标是为读者提供有深度、有实用价值的技术洞察与分析。

展菲：您的前沿技术领航员
👋 大家好，我是展菲！
📱 全网搜索“展菲”，即可纵览我在各大平台的知识足迹。
每周定时推送干货满满的技术长文，从新兴框架的剖析到运维实战的复盘，助您技术进阶之路畅通无阻。

引言

过去几年，大模型最大的特点就是：

会思考，但不会记忆。

每次打开一个新的聊天窗口，AI 都需要重新认识你。

例如：

今天：

帮我制定一个减肥计划。

第二天：

昨天我们聊到哪里了？

很多模型已经不知道了。

即使在同一个对话中，当上下文越来越长，早期的信息也可能因为 Context Window 的限制而被丢弃。

因此，大模型一直存在一个天然缺陷：

• 能推理；
• 能生成；
• 能规划；

但是：

不能像人一样长期积累经验。

然而，当 AI 从 ChatBot 演进到 Agent 后，这个问题变得越来越严重。

因为 Agent 执行的已经不再是几分钟内完成的聊天，而是：

• 持续几小时的数据分析；
• 持续几天的软件开发；
• 持续几个月的项目协作；
• 持续几年的个人助手服务。

没有长期记忆，这些任务几乎无法完成。

于是，Agent Memory 开始成为 AI Infra 中最重要的组成部分之一。

一、Memory 不等于 Context

很多开发者第一次接触 Agent 时，都会认为：

Prompt 足够长，不就等于有记忆了吗？

事实上，这是两个完全不同的概念。Context 是模型当前能够看到的信息。

例如：

用户问题

+

历史聊天

+

工具返回结果

这些内容都会随着 Prompt 一起送入模型。而 Memory 则不同，它更像一个独立存在的数据系统。

例如：

用户偏好

项目资料

历史任务

知识库

长期经验

这些数据并不会一直放进 Prompt。

只有真正需要的时候，Runtime 才会主动检索，并加入当前上下文。

因此：

Context 是短期工作区，而 Memory 是长期知识库。

这也是为什么越来越多 Agent 框架都会把 Context Engine 和 Memory Engine 分开设计。

二、人类记忆如何启发 Agent Memory？

如果观察人类的大脑，会发现记忆并不是一个统一的系统。

例如：短时间内记住一个电话号码，和十年前学会骑自行车，其实使用的是不同的记忆机制，Agent Memory 也越来越采用类似设计。

通常可以分为三个层次：

Working Memory（工作记忆）

↓

Short-Term Memory（短期记忆）

↓

Long-Term Memory（长期记忆）

其中：

Working Memory 保存当前任务需要的信息，例如当前 Prompt、Tool 返回结果和中间推理过程。

Short-Term Memory 保存当前会话中的历史内容，支持连续对话和多轮推理。

Long-Term Memory 则负责长期保存用户偏好、历史经验、项目知识等内容。

这种分层设计，可以在降低 Token 消耗的同时，提高记忆利用率。

三、长期记忆到底存什么？

很多人认为，长期记忆就是聊天记录，实际上远远不止。

一个成熟的 Agent Memory 通常会保存：

用户画像

例如：

• 常用语言；
• 工作岗位；
• 写作风格；
• 常用工具；
• 偏好的输出格式。

这些信息可以帮助 Agent 持续提供更加符合用户习惯的结果。

项目知识

例如：

项目名称

技术栈

接口文档

数据库结构

历史会议记录

当用户再次进入项目时，Agent 不需要重新学习。

行为经验

例如：

用户经常修改 PPT 字体

↓

以后默认使用相同模板

或者：

用户写 Java

↓

优先推荐 Maven

而不是 Gradle

这种经验并不是用户主动输入，而是在长期协作中逐渐形成。

因此：

真正优秀的 Agent，不只是回答问题，而是在不断学习用户。

四、Memory 为什么不能全部放进 Prompt？

很多人会想到：既然 Memory 很重要，为什么不全部放进 Prompt？

答案很简单：成本太高。

假设：用户已经使用 Agent 半年。

聊天记录达到：

300 万 Token

如果每次推理都重新发送这些内容，不仅成本极高，推理速度也会大幅下降。

因此，目前主流方案都是：

Memory

↓

Retriever

↓

Top K

↓

Prompt

也就是说：

Runtime 会先根据当前任务检索最相关的 Memory。

然后只把最有价值的信息放入 Prompt。

这种模式，就是今天 RAG（Retrieval-Augmented Generation）的核心思想。

五、Memory 不只是数据库，更像知识网络

过去，很多 Agent Memory 都采用：

Key

↓

Value

或者：

Vector Database

随着 Agent 越来越复杂，这种方式开始暴露问题。

例如，用户：

继续昨天的项目。

昨天到底指哪个项目？如果没有关系信息。仅靠向量相似度，很难准确判断。

因此，越来越多团队开始研究：Memory Graph。

例如：

用户

↓

项目A

↓

数据库设计

↓

订单模块

↓

支付接口

不同知识之间建立关联，Agent 可以沿着关系不断检索。

相比传统向量搜索，这种方式更加符合人类的联想记忆。

因此：

未来 Agent Memory 将从"知识存储"演变为"知识网络"。

六、Memory 正在成为 Agent 的第二大脑

过去，大模型主要依赖参数学习。模型训练完成后，知识基本固定。

如果增加新的知识，通常需要：

• 微调；
• 再训练；
• 更新模型。

成本极高，而 Memory 完全不同，今天新增的数据，明天就可以被 Agent 使用。

因此：模型负责推理，Memory 负责成长，两者共同组成完整的智能系统。

如果把 AI 比作人类：

• LLM 是大脑；
• Tool 是双手；
• Runtime 是神经系统；
• Memory 就是长期记忆。

没有 Memory，Agent 永远停留在"第一次见面"，有了 Memory。

Agent 才真正开始拥有持续成长的能力。

七、未来 Agent 拼的不只是模型，而是 Memory System

未来几年，Memory 很可能成为 AI Infra 中增长最快的方向之一。

因为随着 Agent 数量增加，系统需要管理的不再只是模型。

还有：

• 用户长期偏好；
• 企业知识库；
• 多 Agent 共享记忆；
• 项目历史状态；
• 工作流上下文；
• 多模态内容。

因此，一个完整的 Agent Memory System，往往包括：

Memory Store

↓

Retriever

↓

Embedding

↓

Vector Database

↓

Knowledge Graph

↓

Context Engine

Memory 不再只是一个数据库，而是连接模型、知识和用户的重要桥梁。

未来优秀的 Agent，很可能不是拥有最大的模型，而是拥有最完善的 Memory System。

总结

过去，大模型最大的限制之一就是"不会记忆"。

每一次对话都像重新开始，每一次任务都需要重新理解背景。

而 Agent 的出现，让 Memory 从一个可选能力，变成了基础能力。

Context 负责当前任务；Memory 负责长期成长；Runtime 负责统一调度；LLM 负责推理决策。四者共同组成现代 Agent 的核心架构。

未来 AI 的竞争，将不仅是模型参数的竞争，更是 Memory System 的竞争。

谁能让 AI 更好地积累知识、理解用户、复用经验，谁就能构建真正长期可持续的智能体。