MemGPT分层记忆架构与Letta实践

可视化演示

动态演示MemGPT分层记忆架构与L的核心机制，通过概览/流程/对比/趋势四种模式展示关键概念与交互流程。

记忆痛点

小林第一天上班，办公桌干净得像一面镜子。可到了下午，桌上堆满了打印资料、便利贴、客户名片。想找早上记的会议要点，得翻半天。更糟糕的是，接待客户时，他完全忘了客户上午刚说过“只喝茶不喝咖啡”——因为那条信息被埋在了文件堆底下。

AI Agent 也面临同样的窘境。大语言模型（LLM）的上下文窗口就是它的“办公桌面”——空间固定，塞得越满越容易丢东西。用户和 Agent 多聊几轮，旧信息就会被挤出窗口，或者因为太长而不得不做粗暴的“摘要压缩”，细节在压缩中流失。再加上窗口越长，显存占用和推理延迟越高，成本也随之水涨船高。

具体来说，LLM 的上下文窗口大小有限，从几千到几十万 token 不等。小型 Agent 应用如果每轮都把所有历史对话塞进去，成本会迅速膨胀；滑动窗口只保留最近几轮，又会把早前关键信息忘掉。这就是所谓的“上下文窗口限制”——它不是一个可绕过的工程小坑，而是 Agent 应用的底层瓶颈。

小林后来明白，问题不在于他记性差，而在于“桌面”只有那么大。AI 也一样——它缺的不是一张更大的桌子，而是一套把文件搬进搬出的方法。这正是 MemGPT 存在的理由。

虚拟内存思想

小林去请教经验丰富的办公室主任陈姐。陈姐的办公桌同样不大，但她永远能在三秒内找到资料。秘密是：陈姐把旧资料全部归档到文件柜，桌面上只放手头正用的三份文件。要用旧资料时，打开文件柜取出一个文件夹，用完再放回去。

操作系统解决内存不足的思路，与“陈姐的文件柜”如出一辙。虚拟内存让程序仿佛拥有无限内存，实际只在物理内存（RAM）中保留常用数据，把不常用数据“换出”到磁盘，用时再“换入”。这是计算机系统中最成熟的分层存储思想之一。

MemGPT 团队将此思想迁移到 AI Agent：把 LLM 的上下文窗口视为“物理内存”，把外部存储视为“磁盘”。当上下文快满时，Agent 将低优先级信息“页面置换”到归档区；当需要旧信息时，再按关键词或语义搜索“召回”。于是，Agent 的有效记忆范围远超模型的窗口大小。

小林学会了陈姐的“虚拟记忆法”——桌面放不下，就把旧资料送进文件柜。从此他的小桌子也能承接一年的工作。对 Agent 来说，这套“换入换出”的调度策略，就是打破上下文墙的钥匙。

三层记忆架构

陈姐的“虚拟记忆法”其实有三个抽屉：桌面、文件柜、工作日志。桌面放正在处理的事务；文件柜存长期资料；工作日志则记录了每一天见过谁、办过什么事。三个抽屉各司其职，缺一不可。

MemGPT 将 Agent 的记忆划分为三层：核心区（Main Context）、归档区（Archival Storage）、召回区（Recall Storage）。核心区就在 LLM 的上下文窗口内，始终被模型“看见”；归档区是外部持久化存储，存放长期事实和知识；召回区是对话历史的自动日志，方便随时回溯。

三层的生命周期各不相同。核心区内容每轮都在变化，由 Agent 自己决定保留什么；归档区数据由 Agent 通过工具写入，可跨会话持久化；召回区则自动记录每一次交互，不占用主窗口。三层协同，让 Agent 既有“工作记忆”又有“长期记忆”。

三个抽屉定位清晰：桌面放正在用的，文件柜存不常用的，日志记发生过的。小林照着做了之后，再也没出现“忘了客户不喝咖啡”的尴尬。三层记忆架构，就是 AI Agent 的“三个抽屉”。

自我编辑机制

陈姐最厉害的不是整理，而是“判断”。她不会等桌面堆成山才开始收拾，而是每处理完一个项目就顺手归档；每次感受到“桌子快满了”，就立刻行动。这套自动化的“整理节奏”，就是她的自我编辑能力。

MemGPT 的 Agent 也具备这种“自我编辑”能力：它通过函数调用来读写记忆。当上下文快满时，系统会给 Agent 发送一个中断信号，Agent 可以主动调用记忆工具，把旧信息移入归档区，或者从归档区检索需要的内容。整个决策过程由模型自主完成，无需人工干预。

核心工具包括：core_memory_append 追加核心记忆、core_memory_replace 替换核心记忆、archival_memory_insert 写入归档、archival_memory_search 检索归档、conversation_search 搜索历史对话。“何时用哪个工具”由 Agent 根据系统指令自行判断——这是真正的“让模型管理自己的记忆”。

小林学到的“整理节奏”，正是 MemGPT 的自我编辑机制。不等桌面爆满就行动，才能让长期使用不失控。Agent 的记忆管理，从“被动溢出”变成了“主动调度”。

系统指令设计

陈姐给小林打印了一份《办公桌管理 SOP》：什么时候归档、什么时候查档案、什么内容绝不能丢——写成一页纸贴在显示器边上。小林照着做，效率立刻提升。那份 SOP，就是系统指令。

MemGPT 的系统提示词里也嵌入了“记忆管理 SOP”，明确告诉模型：你可以访问记忆工具，你的上下文窗口是有限的；当 context 快满时，应把死信息移入归档区，把关键信息写进核心记忆。这个“指令层”与模型权重无关，却显著改变了记忆行为。

系统指令还包括“自我反省提示”：每轮交互后，Agent 要检查自己的记忆是否过期、是否需要更新。“分页控制”让 Agent 把超大内容拆成小块存储，避免一次塞爆窗口。“优先级保护”确保用户名、安全限制等核心记忆不会被冲掉。

没有 SOP 的整理是碰运气，有了 SOP 才有章法。系统指令就是贴在小林显示器上的那张纸，让 Agent 的每个记忆决策都“有法可依”，而不是靠模型临场发挥。

Letta落地实践

理论学完，小林正式上岗。公司给他配了办公软件和权限，他把 SOP 录入系统，开始接待客户。让“记忆管理”真正跑起来，就是落地实践。纸上谈兵再完美，也要有趁手的工具把它变成现实。

Letta 是 MemGPT 的工程化框架（MemGPT 已更名 Letta）。它提供 Python API 和可视化控制台，让开发者可以创建 Agent、配置记忆块、接入本地或云端模型。你不需要从零实现“自我编辑逻辑”——Letta 内置了完整的分层记忆引擎，开箱即用。

在 Letta 中，Agent 有一个可编辑的“记忆块”，包含人格、用户信息、身份设定等核心记忆；对话与文档自动进入召回区与归档区。通过 le.Tool 和 le.MemoryBlock 等抽象，开发者可以自定义记忆操作。部署时，Letta 默认将记忆存在本地数据库中，记忆跨会话持久化。

小林的专业度不只靠聪明，更靠把那套 SOP 落到了日常系统里。Letta 就是 Agent 的那套“办公系统”——把记忆管理的理念封装成了可运行的产品。

应用场景解析

小林的客户越来越多。他发现，长期客户最满意的是“你还记得我上次说要什么”——这正是持久化记忆的价值。不同的客户、不同的需求，考验的是他调度档案的能力。

哪些场景最需要 MemGPT？共同特征是：长对话 + 强上下文依赖 + 跨会话记忆。典型的包括长对话客服助手、多用户个人助理、企业知识问答 Agent。这类场景的共同痛点是：单轮对话不算难，难在把几十轮、上百轮的上下文连贯起来。

客服场景里，Agent 要记住每个用户的历史偏好，MemGPT 可以把用户画像写进核心区，把历史工单放进归档区；多用户场景中，不同用户的记忆天然隔离，按会话切换；知识问答场景中，文档块自动进入归档区，检索召回实现“无限知识库 + 受控上下文”。

小林的客户留存率高，不是因为他记性好，而是因为他有“翻档案”的习惯。Agent 也一样，把记忆调度做好，长对话自然就稳了。选对场景，MemGPT 的价值才能放大。

与Mem0对比

隔壁公司的秘书是另一种风格：不做分层归档，而是把所有客户信息都抄进一个“万能备忘录”，每次接待客户前通读一遍。很省事，但客户一多，通读也要很久。这是两种不同的记忆管理哲学。

Mem0 就是那个“万能备忘录”：它从对话中抽取用户偏好、事实等结构化记忆，存入向量库。每次推理前把相关记忆追加到上下文。而 MemGPT/Letta 则是“操作系统式”分层管理——核心区、归档区、召回区各司其职，由模型自己调度。

两者的定位差异很清晰：Mem0 关注“提取什么记忆”，MemGPT 关注“如何调度记忆”。Mem0 适合快速接入、需求简单的记忆增强；MemGPT/Letta 适合需要长期自主运行、记忆量和复杂度都很高的 Agent。两者也可以组合：用 Mem0 做知识抽取，用 Letta 做上下文管理。

通读备忘录的秘书适合小公司，分层归档的秘书适合大客户长战线。选型先想清楚自己是谁——是快速验证原型，还是构建长期运行的 Agent 系统。

AI 应用场景

Python 演示

"""简化版 MemGPT 分层记忆模拟器（教学演示） 三层记忆：核心区(桌面) / 归档区(文件柜) / 召回区(工作日志)""" class AgentMemory:    """模拟 MemGPT 的核心区/归档区/召回区三层记忆"""     def __init__(self, core_limit=4):        self.core_list = []          # 核心区：当前上下文可见        self.archive_map = {}        # 归档区：持久化存储        self.recall_list = []        # 召回区：消息流水日志        self.core_limit = core_limit        self.event_id = 0     def write_to_core(self, name, content):        """写入核心区，超出容量时自动归档最旧项"""        entry = {"name": name, "content": content}        if len(self.core_list) >= self.core_limit:            self._archive_from_core()        self.core_list.append(entry)        self._log("write", name)     def _archive_from_core(self):        """把核心区最旧的一条记忆移入归档区"""        old = self.core_list.pop(0)        self.archive_map[old["name"]] = old["content"]        self._log("archive", old["name"])     def recall_from_archive(self, name):        """从归档区找回记忆并放回核心区"""        if name not in self.archive_map:            return None        content = self.archive_map.pop(name)        self.core_list.append({"name": name, "content": content})        self._log("recall", name)        return content     def search_recall_log(self, name):        """在召回区日志中搜索历史事件"""        return [e for e in self.recall_list if e["name"] == name]     def _log(self, op, name):        """记录一条召回区日志"""        self.event_id += 1        self.recall_list.append({"id": self.event_id, "op": op, "name": name})     def snapshot(self):        """打印当前三层记忆的状态"""        print("核心区:", [e["name"] for e in self.core_list])        print("归档区:", list(self.archive_map.keys()))        print("召回区:", self.recall_list)  if __name__ == "__main__":    mem = AgentMemory(core_limit=3)    print("== 写入 5 条记忆 ==")    for i in range(5):        mem.write_to_core(f"知识{i}", f"这是第{i}条业务知识")    mem.snapshot()     print("\n== 召回 知识0 ==")    result = mem.recall_from_archive("知识0")    if result:        print("召回内容:", result)    mem.snapshot()     print("\n== 搜索召回日志中的 知识3 ==")    for event in mem.search_recall_log("知识3"):        print(event)     print("\n== 搜索召回日志中的 recall 事件 ==")    for event in mem.search_recall_log("知识0"):        print(event)

1. class AgentMemory:定义一个三层记忆模拟器，对应 MemGPT 的 Agent 记忆管理模块
2. self.core_list = []核心区用列表模拟，始终对模型“可见”，相当于办公桌桌面
3. self.archive_map = {}归档区用字典模拟，按键存取，相当于文件柜
4. write_to_core(self, name, content)模拟 core_memory_append，先检查容量，满了就触发归档
5. _archive_from_core(self)模拟页面置换，把核心区最旧的一条记忆移入归档区
6. recall_from_archive(self, name)模拟 archival_memory_search + 召回，把归档区记忆放回核心区
7. _log(self, op, name)每次操作都写入召回区，形成完整的历史流水
8. mem.snapshot()打印三层记忆状态，直观展示核心区、归档区和召回区的实时构成

常见误区

面试题