Agent记忆系统：短期与长期设计

可视化演示

对比观察者模式的发布-订阅通知机制与命令模式的请求封装-执行流程，动态展示主题状态变更触发观察者更新的完整链路。

记忆系统概览

玛莎接手新老板的第一天做了什么？她没有急着买新本子，而是先立规矩：“什么放桌上、什么进档案柜、什么只过脑不过夜。”她很清楚，记忆不是一口缸，而是一套分工。桌上是手边记事本，柜子里是十年卷宗，脑子里是正在盘算的事——三者各管一摊，互不越界。

Agent 也一样。业界把 Agent 的记忆分成三层：工作记忆是模型正在计算时产生的中间状态，一算完就释放；短期记忆是当前对话的上下文窗口，负责“这一轮在聊什么”；长期记忆是模型之外的持久化存储，负责回答“这个用户上次发生过什么”。三者组合，才构成了完整的记忆生命周期：编码 → 存储 → 检索 → 更新 → 遗忘。每一环设计得好不好，都直接决定 Agent 像个笨拙的新秘书，还是像玛莎那样游刃有余。

实际架构中，工作记忆由 Transformer 的注意力机制隐式完成，开发者一般不用管；短期记忆由上下文窗口决定，需要做预算和淘汰；长期记忆则外包给向量数据库等外部组件。接下来的章节，就按这三层分工逐一来拆解。

有了分工，玛莎才能不慌不忙：桌上的事做不完不乱，柜子里的文件找得到不慌，脑中始终清楚下一步干什么。Agent 的架构设计，同样始于这份“记忆分工图”。

短期记忆设计

玛莎的记事本只有巴掌大，老板语速又快，常常十分钟就写满一页。她总结出三条铁律：只记当前任务、写满就翻页、最后三页永远留给老板正在说的话。这三条铁律，恰好映射了短期记忆设计的全部要点。

短期记忆在技术上就是 上下文窗口（context window）——大语言模型一次能“看”到的 Token 总数。Token 可以粗略理解成“文字碎片”，模型按碎片读入整个窗口的内容。窗口内消息按顺序排列，一旦超出上限，最早的碎片就会被挤掉或触发处理。所以短期记忆设计的第一课题是：窗口多大、怎么给内容排座次。

主流做法是滑动窗口：只保留最近 N 轮对话，更早的内容做摘要或转存。同时要算 Token 预算——系统提示词、工具定义、用户当前提问必须保底，历史消息只分剩余空间。这里的预算公式相当直观：总容量减去必须占用的保底量，才是历史消息能用的额度。一旦预算被历史消息塞满，短期记忆就会失效，如同记事本被扔进碎纸机，再也找不回来。因此窗口内留白，是对“当前问题”的最高尊重。

记事本写得越规矩，老板提问时玛莎就越从容。窗口里永远给“正在问的问题”留够位置，短期记忆才算设计到位。

长期记忆设计

档案柜房才是玛莎的镇宅之宝。十年卷宗没有一页混放：谈过咖啡的客户放在餐饮区，报过修的老客户放在售后区，每层架子都有编号。老板三年前说“那个酸酸的咖啡”，今天改口说“那份偏酸的豆子”，玛莎都能翻出同一份卷宗——因为她不是靠字面检索，而是靠“意思”归档。

Agent 的长期记忆要做的事情，就是把这间档案柜自动化。它必须解决两个核心问题：第一，知识跨会话持久化，对话一结束不蒸发；第二，按“语义”而不是按“标题”存取。主力工具就是向量数据库（vector database）。它的工作方式分三步：先把长文本切成小块（chunking），再用嵌入模型把每块文字变成高维向量，最后建立索引（常用 HNSW 这类近似最近邻结构）支持快速搜索。语义相近的文本，向量距离就近，于是“酸酸的咖啡”和“偏酸的豆子”能落到同一个角落。

工程上很少只用一种存储。成熟的 Agent 系统通常采用混合存储架构：Redis 存键值型事实（“用户：小明，等级：VIP”），关系数据库存结构化信息，向量库存自由文本片段——就像玛莎的档案柜房既有按主题分类的大柜，也有放小物件的抽屉，各司其职。

档案柜的价值在于“异时同义”：不管老板用什么词，玛莎总能找到那卷该找的档案。向量检索正是为了实现这份默契而存在的。

记忆编码方法

玛莎归档之前，总要先问自己三个问题：这条值不值得记？用什么词能最快找回来？原文太长要不要写摘要？把一堆杂乱信息“变成卷宗”的这道工序，就是记忆编码。

编码，是把原始对话转换为适合长期存储与检索的形式。这一步最容易犯的错是“全盘照抄”——所有聊天记录原样塞进数据库。结果档案柜被垃圾塞爆，真正要找的卷宗反而被埋在最底下。因此，标准流水线要经过四道工序。

第一道是信息筛选：去重、去噪、抽取实体与事实，判断“用户喜欢喝咖啡”比“今天天气不错”更值得记。第二道是向量化表示：用嵌入模型把筛选出的文本转成语义向量。第三道是元数据标注：给记忆贴上时间戳、说话人、主题标签、重要度，就像卷宗封面写清楚编号和日期。第四道是摘要压缩：长对话先总结成要点再入库存，控制体积。编码有多认真，检索就有多轻松——这和卷宗写得好不好决定找不找得到，是同一个道理。

写档案卡的功夫，决定未来找档案的速度。编码环节多花一分心思，检索环节就能省下十分力气。

记忆检索机制

老板问“三年前那个供应商的电话”，玛莎绝不会把整间档案房倒出来，而是先想“供应商 + 三年前 + 合作过”，定位到两三个柜子，抽出最像的三份卷宗精读，最后把答案写在便签上递给老板。这套动作，就是记忆检索。

Agent 的检索也是这条路线：先把查询向量化，在向量库里做相似度搜索粗筛出 Top-K 候选；再用重排序精读这些候选，挑出真正有用的；最后把结果注入 Prompt，让模型基于它们生成回答。这条管线在业界叫检索增强生成（Retrieval-Augmented Generation，RAG），是目前让 Agent“带上记忆说话”的主流武器。

但只比语义相似度还不够。三年前的信息即便相似度略低，对“当前问题”也可能更关键。所以工程上常用混合打分：语义相似度占大头，加上记忆的重要度权重，再叠加一个新鲜度（时间越近分数越高）。这样既找得准，又不至于让陈芝麻烂谷子压过最近进展。

检索不是大海捞针，而是按索引拿针；针拿得多准，取决于编码和打分有多讲究。

遗忘与优先级

每月最后一个周五，玛莎都会做“档案大扫除”：三年前的外卖单降级到地下室，客户合同升级到金柜，还有一批“好像有用又好像没用”的卷宗贴上复习标签，下月再翻一次。她把遗忘本身当作工作的一部分，而不是失误。

这个直觉，心理学上早有定论。艾宾浩斯遗忘曲线告诉我们：刚记完的内容衰减最快，之后越记越牢，遗忘速度整体呈现“先快后慢”的指数趋势。Agent 的长期记忆也需要主动执行类似的记忆衰减——否则档案柜里的陈年垃圾会无限膨胀，把高价值记忆挤到检索死角。

具体的做法是“降权而非删除”。每条记忆都带两个属性：年龄（记录多久没被访问了）和重要度（由规则或模型给出评分）。检索时，年龄大的记忆得分自动打折；被再次命中的记忆刷新年龄、权重回升。容量快满时，低重要度记忆被移到冷存储，高重要度记忆进“金柜”优先保留。这样，有限的存储永远在服务最重要的事情——会遗忘的档案柜，才是好档案柜。

玛莎的大扫除不是把卷宗扔掉，而是把力气留给重要的事。Agent 的遗忘策略，同样是为了让记忆系统“拿得起、放得下”。

实用系统设计

玛莎把自己的记忆心法写成了一本工作守则：每天开工先扫一遍日程（读取）；每收到一条信息先判断值不值得记（写入）；回答老板任何问题之前先翻档案（检索）。这套守则，其实就是一套完整的记忆系统流程设计。

落到工程实现，核心问题只有三个：什么时候写、什么时候读、用什么工具和指标评估。读写流程是事件驱动的——对话中识别到关键信息（用户明确说“记住……”、出现订单号/型号等实体）立即触发编码写入；生成回答前，先从长期记忆检索相关片段注入上下文。写和读之间，还需要异步任务定期做去重、衰减和复习调度。

工具链选型上，想省力可以直接用托管方案 Mem0、Zep，它们把记忆的增删改查封装成了现成的 API；想自建，向量库选 Chroma、Pinecone 或 Qdrant，缓存用 Redis，再加上一个调度队列驱动遗忘与复习任务。上线之后，用检索命中率、召回相关性和端到端任务成功率持续评测，再根据结果调节衰减率和重要度规则——记忆系统不是搭好就完事，而是一个需要长期养护的活系统。

这一整套，其实就是把玛莎十年练成的心法自动化。当 Agent 也拥有了记事本、档案柜和大扫除的节奏，它就不再是“每次都像第一次见面”的陌生人，而是真正懂你的私人助手。

AI 应用场景

Python 演示

# -*- coding: utf-8 -*-"""简易 Agent 记忆系统演示: 短期记忆(滑动窗口) + 长期记忆(近似向量检索)"""import mathimport re  class ShortTermMemory:    """短期记忆: 容量有限的上下文窗口, 超出后逐出最旧消息"""     def __init__(self, capacity=3):        self.capacity = capacity        self._messages = []     def add(self, role, content):        """追加消息, 窗口满时返回被逐出的消息, 否则返回 None"""        self._messages.append({"role": role, "content": content})        if len(self._messages) > self.capacity:            return self._messages.pop(0)        return None     def to_prompt(self):        """将窗口内消息拼成适合送进模型的上下文文本"""        return "\n".join(            f"{m['role']}: {m['content']}" for m in self._messages        )  class LongTermMemory:    """长期记忆: 用关键词重合度近似语义检索, 带年龄衰减"""     def __init__(self):        self._records = []        self._total = 0        self._decay_step = 0.2     def write(self, text, tags, importance):        self._records.append({            "id": self._total, "text": text, "tags": tags,            "importance": importance, "age": 0.0        })        self._total += 1     def age_all(self):        for rec in self._records:            rec["age"] += self._decay_step     def search(self, query, top_k=2):        q_terms = set(re.findall(r"[\w\u4e00-\u9fff]+", query))        scored = []        for rec in self._records:            text_terms = set(re.findall(                r"[\w\u4e00-\u9fff]+", rec["text"][:30]))            terms = set(rec["tags"]) | text_terms            word_sim = len(q_terms & terms) / max(len(q_terms | terms), 1)            freshness = math.exp(-rec["age"])            score = 0.6 * word_sim + 0.3 * rec["importance"] + 0.1 * freshness            scored.append((score, rec))        scored.sort(reverse=True)        return [rec for _, rec in scored[:top_k]]  def main():    stm = ShortTermMemory(capacity=3)    ltm = LongTermMemory()     conversation = [        ("user", "你好，我叫小明"),        ("assistant", "你好小明，很高兴认识你"),        ("user", "我最喜欢喝咖啡"),        ("assistant", "我会记住你喜欢咖啡"),        ("user", "帮我推荐一款咖啡豆"),        ("assistant", "首选哥伦比亚浅烘焙"),    ]    for role, content in conversation:        evicted = stm.add(role, content)        if evicted:            if "咖啡" in evicted["content"]:                ltm.write(f"{evicted['role']}: {evicted['content']}",                          tags=["咖啡", "喜好"], importance=0.95)            else:                ltm.write(f"{evicted['role']}: {evicted['content']}",                          tags=["问候"], importance=0.5)     ltm.age_all()    recalled = ltm.search("小明有什么喜好", top_k=1)     print("=== 当前短期记忆窗口 ===")    print(stm.to_prompt())    print("\n=== 长期记忆检索结果 ===")    for rec in recalled:        print(rec["text"], "| 重要度:", rec["importance"], "| 年龄:", rec["age"])  if __name__ == "__main__":    main()

1. evicted = stm.add(role, content)每条新消息先进入短期记忆窗口，容量 3 条满时返回被逐出的最旧消息。
2. if evicted:只有“被窗口挤出来”的消息才值得沉淀，避免把每一句闲聊都写进长期记忆。
3. ltm.write(f"{evicted['role']}: {evicted['content']}", tags=["咖啡", "喜好"], importance=0.95)将咖啡偏好编码进长期记忆，附带主题标签与高重要度。
4. rec["age"] += self._decay_step每次调用让全部长期记忆统一“变老”一点，模拟时间流逝。
5. freshness = math.exp(-rec["age"])用指数衰减计算新鲜度，正是艾宾浩斯遗忘曲线的简化实现。
6. word_sim = len(q_terms & terms) / max(len(q_terms | terms), 1)用 Jaccard 重合度近似语义相似度；真实系统会替换成向量余弦相似度。
7. scored.sort(reverse=True)按综合得分降序重排，相当于检索里的 Top-K 重排序。
8. recalled = ltm.search("小明有什么喜好", top_k=1)生成回答前触发检索，把长期记忆结果带回上下文。

常见误区

面试题