Agent跨会话状态与上下文注入

可视化演示

展示TCP连接建立的三次握手过程，逐步演示客户端与服务端之间的SYN和ACK报文交换，理解可靠连接的建立机制。

会话状态存储

咖啡馆老板老王有个祖传抽屉柜，每个熟客占一个抽屉。抽屉外面贴着编号（比如“张女士-021”），里面是一张卡片，写着上次聊到哪、口味偏好、有没有没结的账。老王说：“只要抽屉在，客人三个月不来我也不慌——来了翻卡片，就全都想起来了。”

在AI Agent的世界里，这个“抽屉柜”叫会话状态存储。每一次对话结束，Agent不会真的“忘记”一切——只要它把关键信息写进了状态空间，下一次会话开始时就能重新取回。状态空间的数学本质是一个“键-值-时间戳”的集合：键是记忆的名字（如“user_name“），值是记忆的内容（如”小明”），时间戳记录这条记忆是何时写入的。

实际工程中，“抽屉编号”就是会话唯一标识（Session ID），它可以是一个UUID，随首次对话创建，此后每次请求都带着它。而“卡片归档”则依赖状态存取接口与持久化存储选型——轻量场景用Redis，复杂场景用数据库，再配合快照恢复机制，即使服务重启也能从磁盘把状态捞回。

老王关上抽屉时总习惯拍一拍柜门——那是确认“记忆已归档”。Agent也一样，每个会话结束时的显式save调用，就是那个“拍柜门”的动作。抽屉在，记忆就在；抽屉丢了，一切归零。所以状态存储的可靠性，决定了一个Agent能不能“记得住”用户。

上下文动态注入

早上十点，张女士推门进来。老王没有去翻抽屉——他早上已经提前把她的卡片从抽屉里抽出来，用回形针夹在了今天的点单本第一页。这样他一边冲咖啡一边瞄一眼卡片，就能自然地接上话：“您上次说的那款低因豆子，我进了货。”

这个“把档案提前夹到点单本上”的动作，在AI Agent里叫上下文动态注入。大语言模型本身没有记忆，它的“点单本”就是上下文窗口——你往里面写什么，它就“记得”什么。因此，Agent需要在合适的注入时机，把从状态存储里取出的历史记忆，拼装成模板格式塞进上下文。

注入不是无脑追加，而是有手艺的。先定义提示模板（Template），留下记忆插槽；再把检索出的TopK条记忆填入插槽；最后做动态替换与内容裁剪——只保留对当前用户问题有帮助的片段，把无关紧要的旧寒暄扔掉。整个过程可以看作一次模板与记忆的拼接运算。

老王深谙“注入不在多，而在准”。有一次他图省事，把张女士三年前的点单全夹进本子，结果自己看花了眼，连她最讨厌肉桂都忘了。Agent也一样——注入的内容若不裁剪、不排序，模型就会被噪音淹没，回答质量不升反降。

记忆分层管理

老王店里有两套记忆系统。吧台后面挂着一块小黑板，上面写着“靠窗2号客人要美式、加急”“3号桌在等结账”——这些是今天的临时信息，打烊就擦掉。而抽屉柜里的熟客档案，则是要留几个月的长期信息。两者的区别，老王闭着眼都说得清：小黑板管当下，抽屉柜管长期。

这就是记忆分层管理的直觉。AI Agent把记忆分成短期记忆缓冲与长期记忆归档两层：短期记忆存放在上下文窗口里，随会话结束而消失；长期记忆则写入持久化状态存储，跨会话幸存。另外还有个隐性层次——工作记忆，即“当前这一轮正在处理的信息”，它从短期记忆而来，经模型思考后产生新结论，再决定是丢弃还是沉淀为长期记忆。

分层的核心是重要度分级：每条记忆写入时赋予一个重要度分数（比如用户明确说“我喜欢喝手冲”的分数，远高于闲聊时随口提的“我今天在家”），再据此决定分层读写策略——重要度高的进长期档案，低的留在短期小黑板。读写时也遵循这条策略：读时先查短期、再查长期，写时按重要度决定落盘位置。

打烊前老王会做一件事：把小黑板上还值得留的信息抄进档案柜，然后擦掉整块黑板。Agent里的“睡前例行公事”同样如此——每轮对话结束，评估哪些短期信息值得提升为长期记忆，其余随窗口滚动自然淘汰。分层管理让“记什么、忘什么”有了章法。

上下文窗口管控

有一次，老王心血来潮把开业八年的所有顾客事件都写进同一本点单本，结果本子厚得像字典。结果那天他找“张女士要的低因豆”翻了五分钟，后面排队的客人全急眼了。老王恍然大悟：点单本的容量有限，塞太多旧账，反而看不清眼前的需求。

上下文窗口管控解决的就是这个“点单本太厚”的问题。大模型每次调用都有固定的Token预算——好比点单本的页数上限。Agent需要量化当前上下文的窗口占用量：已用的Token数占总窗口的百分比。占用率过高时，就必须启动摘要压缩技术：把几轮前的完整对话浓缩成几句摘要，腾出空间给新的对话。

成本优化是另一个隐藏动机。Token是按量计费的，塞入的无关内容越多，单次调用的成本越高。因此成熟Agent会把窗口预算拆分为几个固定分区：系统提示词占一块、历史摘要占一块、检索记忆占一块、当前问题占一块——各自限额，超了就裁剪或压缩。

老王后来定了一条规矩：点单本超过一半就主动做“摘要页”，把旧账浓缩成三行。Agent的工程实践也是同理——与其让长对话撑爆窗口，不如定期“滚动摘要”，让模型永远只看得到浓缩版的过去和完整的现在。

记忆检索召回

抽屉柜用了十年，档案越来越多。老王翻卡片的方式也升级了：每张卡片右上角贴着标签（“低因”“靠窗”“投诉过”），找“低因豆”相关记忆时，他先扫标签再抽卡片；要是标签模糊，他就粗略扫一眼内容，挑最像的几张。这个“先缩小范围、再精挑细选”的过程，就是记忆检索召回。

检索召回的本质是相关性打分：为记忆库中的每条候选记忆计算与当前问题的相关程度。最经典的打分方式是向量相似检索——把问题文本和记忆文本都转成向量（一串数字），再算它们的余弦相似度，值越接近1表示越相关。关键词匹配则更朴素：问题里出现的词，在记忆里命中越多，分数越高。两者常结合使用。

打分完成后进入TopK候选重排：把所有候选按分数从高到低排列，只取前K条注入上下文。这个K值很有讲究——K太小可能漏掉重要信息，K太大则挤占窗口预算。一般的经验是3到5条，配合重要度加权来重排。

老王说，翻档案最高级的技巧不是“翻得仔细”，而是“知道该翻哪个抽屉”。检索召回做得好，Agent就能在浩瀚记忆里精准捞出那一条“用户上次说最讨厌肉桂”的卡片——既提升了回答质量，又省下了撑爆窗口的Token成本。

遗忘淘汰机制

档案柜不是无限大的。老王每月做一次大扫除：三个月没来的客人，档案保留；一年没来的，卡片移到阁楼；一旦发现两条卡片冲突（比如张女士三月说喜欢低因、六月又说不喜欢咖啡因），就以最新一条为准，划掉旧的。老王管这叫“给记忆做减法”。

遗忘淘汰机制正是为了给记忆库“减负”。最核心的思路是时间衰减权重：一条记忆被写入后，它的“权重”随时间指数式下降，久远的记忆自然变得难以被检索到，主动让位给新鲜信息。

其次是过期清理策略：为每条记忆设置最大保存时长（TTL），定期扫描删除过期条目，就像老王月度的“迁阁楼”大扫除。冲突覆盖规则则处理信息矛盾——当新记忆与旧记忆的键相同而值不同时，以时间戳更新者为准，保证状态的一致性。最后还有遗忘合理性评估：删之前先判断这条记忆是否仍具长期价值，防止误删用户核心偏好。

老王的大扫除从没让客人失望过——该记得的全记得，该忘的全忘了。Agent的遗忘机制同样是一门平衡艺术：忘得太快，用户会觉得“你根本不记得我”；忘得太慢，认知负荷与存储成本都会失控。好的遗忘策略，让系统在“记住”与“放下”之间找到优雅的平衡点。

---

AI 应用场景

Python 演示

class MemoryAgent:    """一个极简的Agent跨会话记忆管理器（演示用途）。"""     def __init__(self, window_limit=4, forget_threshold=3):        self.long_term = {}        self.short_term = []        self.window_limit = window_limit        self.forget_threshold = forget_threshold        self.gc_count = 0     def save(self, key, value, importance=1.0):        self.long_term[key] = {            "value": value,            "importance": importance,            "time": self.gc_count,        }     def recall(self, query, top_k=2):        scored = []        for key, info in self.long_term.items():            score = info["importance"]            if query in key or query in info["value"]:                score += 1.0            scored.append((score, key, info["value"]))        scored.sort(reverse=True)        return [(k, v) for _, k, v in scored[:top_k]]     def inject(self, user_input):        memories = self.recall(user_input)        injected = ["[mem] " + v for _, v in memories]        self.short_term = injected + ["[cur] " + user_input]        return self.short_term[:self.window_limit]     def forget_expired(self):        self.gc_count += 1        expired = []        for key, info in self.long_term.items():            if self.gc_count - info["time"] > self.forget_threshold:                expired.append(key)        for key in expired:            del self.long_term[key]        return len(expired)  def main():    agent = MemoryAgent(window_limit=4, forget_threshold=3)    agent.save("user_name", "Xiaoming", importance=2.0)    agent.save("product", "laptop", importance=1.5)     print("round1:", agent.inject("recommend laptop"))    print("forget1:", agent.forget_expired())     print("round2:", agent.inject("I am Xiaoming"))    print("forget2:", agent.forget_expired())     print("forget3:", agent.forget_expired())    print("forget4:", agent.forget_expired())     print("round3:", agent.inject("hello"))    print("long term left:", list(agent.long_term.keys()))  if __name__ == "__main__":    main()

1. self.long_term[key] = {...}把一条记忆写入长期记忆库，记录重要度与写入时间，像往熟客档案里放卡片。
2. score = info["importance"]打分起点是记忆的重要度，重要信息天然占优。
3. if query in key or query in info["value"]关键词命中则加分，模拟关键词匹配检索。
4. scored.sort(reverse=True)按分数从高到低排序，这就是召回阶段的“排名”。
5. memories = self.recall(user_input)根据当前用户输入，从长期记忆中检索最相关的TopK条。
6. self.short_term = injected + [...]把检索到的记忆注入短期上下文，与当前提问拼装在一起。
7. self.gc_count += 1每次清理调用代表“过去一个时间周期”，用于计算记忆的年龄。
8. if self.gc_count - info["time"] > self.forget_threshold判断记忆是否超过保鲜期，是决定是否遗忘的核心逻辑。

常见误区

面试题