这篇是我整理的一份上下文与长期记忆笔记。我想把几个容易混在一起的问题连起来理解:模型在一轮调用中看到了什么,任务持续推进时怎样保留进度,以及跨会话的信息怎样被保存、找回和纠正。
“上下文窗口越来越长”和“Agent 有了记忆”都能帮助系统处理更多信息,但具体实现仍需要回答许多细节。保存了完整聊天,下一轮未必会读到全部内容;把一条信息写进向量库,也还需要决定它属于谁、什么时候有效,以及以后该怎样使用。
文章先梳理概念和每轮上下文的构造,再展开长任务管理、记忆分层与存储格式,最后结合开源实现和评测回看这些机制。如果你也正在整理这个话题,欢迎一起读下去,也欢迎交流不同的理解和实践经验。
1 概念边界:上下文、任务状态与长期记忆
当前上下文:模型本轮实际处理的信息
模型请求的上下文,是本次推理实际使用的输入。它可以包含系统指令、当前问题、历史消息、工具定义、工具结果,以及取回的文档和记忆。宿主程序或服务端会话层负责组织这些材料,模型据此生成回答或下一步动作。
上下文窗口给这些输入及接口要求的其他内容设定了容量边界。即使窗口还没装满,重复、过时或相互矛盾的信息也可能干扰判断,因此上下文管理还包括选择和编排。Anthropic 的上下文工程说明讨论的正是持续维护模型可用信息的过程。
模型参数中的知识,是另一种来源。普通推理会利用当前输入,不会因为程序保存了一份文档或对话,就自动将它写进模型参数。这里主要讨论宿主可读写、并能重新提供给模型的外部信息。
任务状态:让工作能够接着做
任务状态记录当前工作进行到哪里,例如目标、约束、已经取得的结果、待处理事项和必要的消息。它由应用维护,可以只在进程中保存,也可以写入持久存储,在中断后恢复。
状态可以包含本轮没有带入的内容。程序可以保存完整消息与中间产物,同时只选取摘要、当前进度和相关结果交给模型。某个字段存在于状态对象中,只说明应用可以读取它;是否进入模型请求,还要看组装逻辑。
长期记忆则强调跨会话的后续价值,例如稳定偏好、已确认事实、过去的有效经验和可复用方法。一次尚未完成的任务即使持续数天,它的进度仍可以属于同一任务状态。保存时间长短,不能单独决定信息属于哪一类。
| 对象 | 主要回答的问题 | 可能保存的内容 | 本轮怎样使用 |
|---|---|---|---|
| 模型请求上下文 | 模型现在能看到什么? | 指令、问题、选定历史、工具与资料 | 直接参与本次推理 |
| 线程或任务状态 | 这项工作进行到哪里? | 消息、目标、进度、结果、待办、恢复位置 | 由应用或工具选择相关部分 |
| 跨会话长期记忆 | 将来还有什么值得继续使用? | 事实、偏好、事件经验、步骤与规则 | 按任务读取,或加载合适的常驻子集 |
| 原始记录与工作材料 | 需要回查时依据在哪里? | 完整对话、文件、工具输出和日志 | 通过定位、查询或文件读取回到原文 |
原始记录为其他表示提供来源与核对依据。其中一些材料可以参与长期记忆的形成;哪些值得继续使用,还需要筛选。
作用范围:线程内保存与跨会话取用
LangGraph 的 Persistence和 Stores提供了具体区分:checkpointer 保存一个线程的图状态快照;Store 保存应用定义的跨线程数据。文档中所谓 short-term,主要表示线程作用域,线程状态本身也可以持久化。

图源:LangChain,Memory overview,MIT 许可,原图未修改。图中分别以 Checkpointer 和 Store 表达线程状态与跨线程记忆;存储的信息仍需按任务选入模型输入。
这个划分也提醒我们分别检查两个问题:数据保存在哪里,以及程序怎样使用它。内存对象可以被多个调用复用,却未必经得起进程重启;一个持久数据库可以保存大量内容,也未必会在下一次请求中被查询。
2 上下文构造:每轮该让模型看到什么
输入组装:从已有信息到本轮请求
一轮 Agent 调用可以从当前问题和任务状态出发。应用确认身份与资料范围,读取已有进度,再按需要找回记忆、文档或工具结果,将它们与合适的指令和历史交互组成请求。
模型返回工具调用后,宿主执行工具,把新观察和必要的状态变化记录下来。下一轮重新判断哪些信息值得保留,哪些可以缩短,哪些需要继续读取。上下文因而随着任务发展而变化。

自绘流程图:每轮按任务选择并组装输入,模型和工具交互产生新的观察与状态。长期记忆写入是可选路径,保存与读取也可以发生在不同轮次。
检索可以由应用在调用模型前执行,也可以由模型通过工具按需触发。前者便于提供已知必需的材料;后者让模型根据已经看到的信息继续查找。Anthropic 的 just-in-time 检索讨论展示了利用文件路径、链接和查询按需读取的方式。这些选择可以组合,不要求所有资料都预先向量化或一次性放入窗口。
Token 预算:为接下来的工作留空间
预算不能只计算聊天正文。工具的描述与参数、长日志、检索材料和当前任务说明,都可能占据输入空间。规划时还需要为输出及接口规定的其他 token 留出余量。
可以先用下面的关系理解预算分配,实际限制与计数以对应模型和接口为准:
其中, 表示用于本次规划的窗口预算, 包含输出及其他必要预留。这个关系用于说明各部分如何竞争空间;有些接口还分别限制输入、输出或其他内容,不能只靠相加就判断请求一定有效。
按消息条数控制历史,容易忽略内容长度差异。一条工具日志可能比很多轮简短对话都长。工具集合也可以按任务选择,避免无关描述长期占据窗口。输入中的重复材料则可以在保留来源关联后合并。
提示缓存有助于减少重复前缀的计算或费用,具体取决于服务实现。被缓存的内容仍可能占用上下文窗口;缓存也不会替应用判断材料是否相关。Claude Context Editing还说明,清理旧内容可能影响已有前缀缓存,需要结合实际成本看收益。
信息编排:相关性之外还有范围和状态
选入上下文的材料,需要让模型辨认来源和用途。用户刚给出的要求、长期偏好、某次工具的观察,以及文档中的第三方陈述,具有不同归因。它们可以分别标注,并保留适用项目、时间和状态。
近期内容未必最可靠,相似度最高的记忆也未必适用于当前对象。当前任务中的明确要求可能只覆盖这一次交互;长期默认偏好则在没有更具体要求时发挥作用。应用需要保留这些范围,避免把临时指令保存为永久规则。
历史裁剪还应遵守接口的消息协议。工具调用与结果通过标识关联,尚未结束的交互需要完整保留;不能只按文本长度随意截断。外部检索内容和生成的记忆也应继续作为资料处理,系统的身份、授权和执行边界由宿主落实。
LangChain 的 Context Engineering 总结用 write、select、compress、isolate 整理常见方法:将信息写到窗口外,选择性取回,压缩当前输入,或将局部过程放在独立上下文中。这是一种有用的观察方式,各种方法仍需要围绕同一任务配合。
3 长任务管理:裁剪、压缩与外部卸载
策略差异:缩短了什么,又保留了什么
任务持续执行时,消息和工具输出不断增加。管理这些内容,可以从几种不同操作入手:
| 策略 | 主要动作 | 保留与损失 |
|---|---|---|
| 滑动窗口 | 只带最近一段交互 | 近期内容完整,早期约束需要另行保存 |
| 规则裁剪 | 去掉重复、过时或指定类别的内容 | 保留规则决定什么消失,需要检查关联消息 |
| 摘要与 compaction | 用较短表示替换较早历史,再组织后续输入 | 可以延续任务,但摘要会选择和省略信息 |
| 结构化任务状态 | 单独维护目标、约束、进度、未解决事项和来源 | 关键字段容易核对,仍需随真实工作更新 |
| 外部卸载 | 原文留在文件或记录存储,当前带必要内容与定位 | 减少重复输入,需要能够重新找到并读取原文 |
| 子任务隔离 | 局部探索留在各自上下文,返回相关发现 | 主任务接收较少过程信息,但交接也可能遗漏条件 |
这些策略可以组合。把一份长日志留在外部,同时在状态中保存失败项和下一步,是常见的配合方式。文件位置解决回读问题,状态说明这份结果为什么影响当前任务。
压缩与续接:保留足以继续工作的状态
Compaction 通常包含两部分:提炼较早历史,以及用提炼结果重组之后的上下文。只在完整历史末尾追加一段总结,原历史仍然占据空间。
摘要应优先保留会影响下一步的内容:任务目标与约束、已经确认的决定、完成状态、未解决问题,以及必要的来源定位。近期仍在进行的工具交互,可以按接口要求保留原样。Claude Compaction 文档展示了由应用决定时机或按阈值触发的机制,也区分保留近期内容等具体条件。

自绘关系图:摘要是对历史的选择性表示,原始记录可以继续保存在窗口外。下一轮依据摘要、关键状态与近期交互继续工作,需要细节时按定位回读。
触发压缩时,要给摘要生成、可能返回的工具材料和下一次调用留余量。按阶段整理也可以减少一次性丢失信息的风险;固定百分比并不适合所有模型、接口和任务。
任务状态可以采用下面这样的 YAML。字段是用于解释职责的示意,应用也可以使用 JSON 或数据库记录:
thread_id: demo-thread
goal: 完成文档检查并给出结果
constraints:
- 保留用户明确要求的内容
completed:
- 结构检查已结束
open_items:
- 两处引用仍需核对
next_action: 回读引用检查的失败项
artifacts:
- ref: logs/reference-check
meaning: 原始检查结果
summary_cursor: message-42summary_cursor 标明摘要覆盖到哪里,便于将后续新消息与旧摘要衔接。completed 和 open_items 则保留真实工作状态。计划执行、已经修改和已经验证,需要继续区分,不能在压缩时都归成“已完成”。
外部回读:位置与内容都要继续可用
Manus 的原作者总结介绍了用文件系统保存材料,并通过路径或 URL 按需找回的方式。对于长文档、搜索结果和日志,当前请求可以只带摘要、相关片段及回读入口。
回读入口还需要对应合适的内容。文件可能修改,URL 可能失效,旧位置也可能指向新的结果。对会影响判断的资料,可以保留来源标识及必要的内容身份,重新读取时核对是否仍对应原记录。
摘要也可能在反复转述中漂移。一个附带条件的事实,经过多次压缩后可能只剩结论。将关键约束单独存为字段、保留原始依据,并在需要时从原文重建摘要,比继续压缩已经失真的摘要更有帮助。
删除边界:输入清理、状态修改与记录移除
从本轮输入中省去旧消息,只改变模型现在能看到什么。LangGraph 的记忆管理说明进一步区分了传入模型前裁剪,与使用 RemoveMessage 更新图状态。
更新当前状态,也不等于已经移除历史 checkpoint、日志或其他派生记录。服务端工具结果清理还可能采用占位内容,继续保留消息关联;这种机制应按对应接口使用。需要释放窗口、修改状态或删除存储时,应分别确定操作对象。
4 记忆分层:工作上下文、任务状态与长期记忆
功能分层:信息离本轮调用有多近
从 Agent 的运行过程看,可以把记忆按作用位置分成三层。第一层是本轮工作的上下文;第二层是维护一项任务连续性的状态;第三层是跨会话积累并取用的长期记忆。这是便于理解系统的功能视图,不要求部署三个存储服务。

自绘分层图:功能层说明信息在哪里参与工作;长期记忆中的语义、情景和程序性分类说明保存什么。外部信息经选择后进入当前上下文,同一内容可以在多个位置有不同表示。
| 功能层 | 主要保存什么 | 怎样维护 | 使用方式 |
|---|---|---|---|
| 工作上下文 | 当前问题、选定指令、近期交互、相关证据与记忆 | 每次请求时选择、编排与控制预算 | 由模型直接处理 |
| 线程或任务状态 | 消息、摘要、目标、进度、暂存结果与恢复信息 | 随执行更新,可保存 checkpoint | 为后续请求和工具提供所需字段 |
| 长期记忆 | 跨会话仍有用途的事实、经历和方法 | 筛选写入、修订、整理与移除 | 常驻加载、按 key 读取或相关性检索 |
“常驻”和“长期”也不是一组互斥选项。一条稳定且经常使用的规则,可以保存在长期记忆中,同时每次都被加载进上下文。大量历史经验则更适合在相关任务出现时取回。
任务结束后,状态不会自动全部转入第三层。一次临时路径、尚未确认的猜测和未完成事项,可能只对当前任务有用。值得保留的经验需要经过筛选,并关联原来的任务和依据。
内容类型:语义、情景与程序性记忆
长期记忆还可以按内容用途分类。LangMem 的概念文档借用语义、情景和程序性三个名称解释不同用途。它们有助于设计保存与读取方式,但不是所有框架共同遵守的固定 API 类型。
| 类型 | 保存的核心内容 | 常见表示 | 取用时重点检查 |
|---|---|---|---|
| 语义记忆 Semantic | 事实、偏好、对象属性和关系 | Profile、独立事实记录、实体关系 | 主体、范围、来源,以及是否仍有效 |
| 情景记忆 Episodic | 过去发生的事件、任务经历与相关结果 | 带时间和来源的事件、经历摘要、成功或失败案例 | 当时条件、动作、实际结果,是否适用于当前任务 |
| 程序性记忆 Procedural | 可复用的步骤、规则、策略和表达习惯 | 规则文件、流程说明、提示中的行为约定 | 适用范围、来源、执行条件,以及是否被后续更正 |
语义记忆侧重“知道什么”。它可以保存一项项目约定,或用户明确表达的默认偏好。抽取时需要保留主体和条件;一句仅对当前任务成立的要求,不能在省略范围后成为全局偏好。
情景记忆侧重“过去发生过什么”。有用的经历往往同时包含情境、动作和结果。只有一条“这个方法有效”,却没有说明在哪个问题上、得到什么结果,后续很难判断能否复用。原始聊天可以作为来源,经过选择的经历记录则可以作为案例取回,帮助模型理解类似任务。
程序性记忆侧重“通常怎样做”。它可以来自用户给定的规则,也可以来自经过核对的经验整理。将一个成功案例归纳为通用流程,是一次新的推断;需要保留适用条件,不能因为某次有效就认定所有任务都应照做。由模型生成的规则也需要保留归因,并服从当前任务和系统的权限边界。
组织方式:内容类型与存储介质怎样对应
同一类记忆可以有不同组织方式。Profile 把相关属性放在一个较完整对象里,便于读取当前概况;条目集合把事实或经历拆成独立记录,便于分别检索和更新,但需要处理重复、遗漏与冲突。层次文件可以把常驻规则、主题索引和细节分开,按需读取。
向量检索、关键词索引和关系图解决的是组织与查找问题。语义记忆可以存为 JSON,也可以被向量化;情景记忆可以保留在文件里,同样可以建立索引。“用了向量库”说明了一种检索实现,还需要结合内容、范围和维护逻辑理解记忆系统。
设计时可以先确定每条内容为什么保留、怎样定位和纠正,再选择所需索引。只有少量稳定规则时,直接读取文件或已知 key 的记录,就可以满足需要。
5 记忆管理:存储、写入、更新、取用与遗忘
存储格式:主记录、来源与索引怎样关联
存储首先需要区分两种对象:应用认可的主记录,以及帮助查找的索引表示。主记录保存内容、归属、来源和当前状态;索引可以保存向量、关键词或关系,用标识关联回主记录。二者可以放在同一个数据库中,也可以分开存放。
下面这些格式用于说明常见组织,不是某个框架的固定文件约定,也不要求一个系统同时使用全部形式:
| 内容 | 可能采用的格式 | 关键字段或结构 |
|---|---|---|
| 任务状态与压缩摘要 | JSON、YAML、结构化数据库字段 | 任务 ID、目标、约束、进度、待办、来源位置、摘要覆盖范围 |
| 原始交互与事件记录 | JSONL、消息表或事件表 | 事件 ID、主体、事件类别、内容、记录时间、来源定位 |
| 可复用事实与偏好 | JSON 文档、键值记录或关系表 | 记忆 ID、类型、内容、作用域、来源、适用时间、状态 |
| 情景与案例 | 事件记录或经历摘要 | 情境、动作、结果、发生时间、相关原始事件 |
| 步骤与规则 | Markdown、结构化流程或提示配置 | 适用范围、前置条件、步骤、来源与修订信息 |
| 检索表示 | 向量集合、全文索引、图节点与边 | 对应主记录 ID、索引内容、过滤字段及必要的表示配置 |
JSONL 将每条记录放在单独一行,适合逐条追加事件。例如:
{"event_id":"evt-17","type":"user_message","content":"本项目说明文档默认使用简体中文","source_ref":"conversation/demo#message-17"}
{"event_id":"evt-18","type":"memory_written","memory_id":"mem-language-1","source_refs":["evt-17"]}这两行是教学数据。第一行保留信息来源,第二行记录对应记忆的写入结果。应用可以在消息表中实现同样的关系;事件多、查询复杂时,也不必坚持使用单一日志文件。
从这个来源形成的一条事实,可以表示为:
{
"memory_id": "mem-language-1",
"kind": "semantic",
"scope": {
"user_id": "demo-user",
"project_id": "demo-project"
},
"content": "本项目说明文档默认使用简体中文",
"source_refs": ["evt-17"],
"recorded_at": "<系统记录时间>",
"valid_from": null,
"valid_until": null,
"status": "active",
"supersedes": null
}recorded_at 表示何时存入,valid_from 与 valid_until 表达适用范围,未知时可以留空,不从记录时间强推发生时间。source_refs 保留原始依据,status 和 supersedes 帮助表达当前有效性与替代关系。字段是否需要全部保留,要看应用实际怎样纠正和查询。
程序性记忆可以采用便于阅读的 Markdown:
# 文档引用检查
适用范围:当前项目的文档审阅
来源:已确认的项目规则
1. 核对关键陈述是否关联对应来源。
2. 需要确认细节时回读原文。
3. 记录尚未确认的引用,不将其标为已通过。规则文件也需要稳定定位与适用范围。可以用旁侧元数据或文件中的结构字段维护来源;写成 Markdown 并不会自动赋予其中内容更高的指令权限。
写入:从一次交互形成可复用记录
写入可以沿着“来源事件 → 候选提取 → 范围与价值判断 → 比对已有内容 → 保存结果”理解。候选可能是用户明确表达的事实,也可能是工具观察或模型归纳;这些归因应随内容保留下来。
提取阶段先判断未来会怎样使用它。临时进度通常留在任务状态中;明确具有持续适用范围的偏好、事实或经验,再进入长期候选。过度提取会增加重复和无关召回,提取不足则可能让后续任务找不到需要的信息。
比对已有记录时,首先限定同一主体和范围,再判断新内容是重复、补充、变更,还是存在分歧。相同文本的去重比较直接;语义相近的两条记录,可能因为项目、时间或条件不同而都有效。合并时应保留各自依据,避免只剩一条范围过大的概括。

自绘管理图:写入和读取围绕带来源与作用域的主记录衔接,检索索引用于找到相应内容。新增、修订、失效与删除是不同操作,具体决策由应用和所选实现承担。
保存成功后,还需要让相关检索表示对应主记录。更新了内容却继续检索旧向量,或者主记录已经失效而索引仍把它当作当前事实,都会影响下一轮使用。是否同步更新、重建或按状态过滤,取决于实际存储方式,但应核对最终读回的对象。
更新与冲突:修订的是内容,还是适用范围
用户更正一项默认规则后,应用可以直接更新原记录,也可以保留新旧记录并建立替代关系。前者便于读取当前值,后者更容易回答历史问题。采用哪一种,应由是否需要追溯、怎样引用来源等实际需求决定。
更新不能只看最后写入时间。同一条信息可能今天才补录,却描述过去的状态;两个项目也可能有不同规则。应先确认主体、属性、时间和范围是否相同,再决定替换、并存或保留待确认的分歧。
对于前面的语言偏好,如果用户只要求“这一段用英文”,当前任务就可以采用该要求,而长期默认值继续保留。只有明确改变持续适用的规则时,才据此修订长期记录。这样可以避免把每次局部选择都解释成长期偏好改变。
记录中的状态、替代关系与索引也要一起考虑。主记录更新后,后续读取应拿到新内容;若采用异步索引,可以在取回候选后根据主记录再检查适用状态。这里需要的是明确的更新与读取语义,不必为所有小型应用预设复杂的版本系统。
取用:从存储回到本轮上下文
读取可以从已知标识开始,也可以通过搜索寻找。少量固定规则适合直接加载;已知用户或项目的 profile 可以按 key 读取;大量事实与经历则可以结合关键词、向量或关系检索。
顺序上,先根据可信身份确定可访问范围,再按当前问题、状态和时间要求选择候选。候选取回后,还需要去重、核对是否仍有效,并在预算内挑选必要内容。最终交给模型的材料,应保留来源与关键条件。
这个过程也允许分步读取。先给一个主题目录或简短摘要,让模型决定是否继续打开细节,可以减少每次加载全部记忆的成本。反过来,若一项规则几乎每次都需要,反复搜索也可能增加不必要的延迟,适当常驻更直接。
读回正确内容以后,仍要看模型是否正确使用。记忆与当前要求发生冲突、来源不一致或证据不足时,可以说明差异、继续查找或请求澄清。相似度帮助找到材料,来源与适用条件还需要继续核对。
写入时机:请求内处理与后台整理
请求内写入可以让刚确认的信息及时可用,但会增加当前路径上的处理。后台整理则可以在交互后集中提取和归并,响应较快时也可能尚未完成记忆更新。
LangMem 的延迟处理指南展示了延迟、合并处理的方式。应用选择后台写入后,需要区分“已经提交处理”和“记忆已经可读”。若下一步马上依赖新信息,可以先保留在当前状态中,后续再衔接长期存储。
后台整理还可以发现重复、拆分过大的记录或归纳经历。整理得到的新结论需要继续关联原始来源;由模型生成的一段流畅总结,不足以证明它比原记录更准确。保存失败时,也应将失败留在任务状态中,避免仅凭一句“记住了”就认为操作已经完成。
遗忘与删除:不再使用和彻底移除分别处理
遗忘可以通过降低优先级、到期失效、归档或摘要归并实现,目标是让后续使用更合适。低频并不总表示无价值,一项很少触发的限制条件,也可能在对应任务中非常重要。
失效记录可以继续作为历史保存,同时不参加当前规则的选择。删除则需要明确实际移除的对象:主记录、相关索引、摘要或其他派生内容。只从当前输入拿掉一条记忆,不会自动清除窗口外的保存副本。
若源对话仍会被后台处理,还需要避免已删除内容被再次提取。采用版本化文件的系统,则应区分当前文件与历史记录的处理。实际保留范围应由应用与删除请求确定,不能仅凭一次搜索未命中就判断内容已经彻底消失。
与 RAG 的联系:检索可以共用,维护问题继续存在
长期记忆可以采用检索增强方式:选出相关事实或经历,连同当前问题一起交给模型。文档、对话与经验都可以成为检索对象,因此二者不能只按“资料来自文档还是用户”划开。
| 观察角度 | 检索增强关注什么 | 记忆管理还需要说明什么 |
|---|---|---|
| 输入来源 | 怎样找到与当前任务相关的材料 | 从交互中选择哪些内容持续保留 |
| 信息组织 | 怎样解析、索引、过滤和取回 | 主体归属、来源、适用时间与记忆类型 |
| 持续维护 | 材料更新后索引怎样变化 | 偏好更正、经历整理、冲突、失效与遗忘 |
| 进入模型 | 怎样组装足够的上下文 | 何时常驻、何时按需取用,以及是否影响了当前行为 |
这些职责可以由同一套系统实现。检索方法解决找回问题,记忆策略决定保存与维护什么;在具体框架里,需要继续追踪它们怎样衔接。
6 实现观察:从状态框架到记忆系统
LangGraph / LangMem:分开状态保存、内容管理与输入选择
LangGraph 以 State 连接图中的执行步骤。State 可以包含消息、摘要、进度和业务字段;checkpointer 在执行中保存线程状态快照,用于继续运行、恢复和回看。Persistence
Store 则提供按 namespace 和 key 组织的数据访问,支持跨线程使用;配置相应索引后,也可以做语义搜索。Stores 文档中的值是结构化记录,namespace 可以表达用户、项目等组织范围。可信身份和访问授权仍由应用落实,示例中的 InMemoryStore 也只存在于内存中。
这些对象与模型输入之间,还隔着读取和组装逻辑。节点可以先查看 State 和 Store,再把其中少量字段交给模型。runtime.context 另用于给节点传入本次运行的身份、配置或连接等依赖;它与 State、模型请求上下文都有不同职责,不会自动全部注入模型。Graph API
LangMem 在此基础上提供记忆内容处理。应用可以调用管理器提取与整理信息,也可以将管理和搜索做成工具,交给模型在交互中调用。记忆工具指南
具体地,create_memory_manager 接收对话和已有记忆,返回抽取或更新结果,保存方式由应用控制;create_memory_store_manager 则进一步结合 Store 查找与写入。语义记忆指南把这些组合展示得更具体。内容管理、数据存取和请求组装可以分别选择,也需要分别核对效果。
Letta / MemGPT:常驻记忆与窗口外信息怎样配合
MemGPT 提出用分层上下文和主动读取外部信息支持较长交互。论文中的主上下文包含指令、工作内容和消息队列,窗口外存储则通过函数与管理组件连接进来。

图源:Charles Packer 等,MemGPT 原论文 Figure 3,CC BY 4.0。原始 SVG 转为 PNG,图内内容未修改。容量数字属于原方案示意,图中组件说明该论文的组织方式。
从图中可以看到,保存外部内容和让模型实际读到内容之间,有读取、队列和上下文管理过程。它提供了理解分层设计的具体实现,不能据此要求所有 Agent 都采用相同组件。
Letta 的 MemFS 文档进一步展示了基于文件的组织:一部分记忆内容进入常驻提示,其余保存在层次文件中,通过目录和读取操作按需加载。Git 支持文件修订与同步,但事实矛盾仍需要应用和 Agent 判断;默认也不因为文件进入 MemFS 就建立向量检索。
记忆配置与 dreaming则说明了后台回顾和整理的作用,例如归并重复信息或调整文件组织。常驻范围、文件结构和整理策略共同影响下一轮实际看到什么。理解这个实现时,应分别追踪文件保存、选择加载和后台维护,而不只把它概括成“上下文更长”。
Mem0 OSS:提取与检索接口怎样接到应用
Mem0 提供记忆添加和搜索等接口。应用可以将交互交给 add 处理,在后续任务中调用 search,再决定将哪些结果放入模型请求。How It Works
其开源写入实现包含候选事实提取、embedding、去重和存储等步骤。默认提取路径采用增量添加;纠正已有内容和删除记录,由对应的显式操作处理。Update、Delete
这一边界影响第五章的维护设计:调用添加接口,不意味着已经自动完成所有冲突修订。哈希去重也只覆盖实际参与比对的内容,不能据此推出整个记忆集合都完成了语义去重。平台服务与 OSS 的能力还需要分别看对应接口,不将某一路线的图关系或时间功能当作所有部署的默认配置。
这三组实现分别展示了状态与 Store 的组合、常驻与按需文件的组合,以及提取/检索服务与应用的组合。阅读代码时,可以沿同一条关系追踪:什么被保存,怎样更新,下一次请求又真正使用了哪一部分。
7 评测优化:保留、找回与使用分别怎样检查
评价材料:让每个问题都能回到原始依据
评价需要覆盖当前任务的连续性,也需要覆盖跨会话的后续使用。样本可以保留原始交互、应遵守的约束、应写入的信息、后续查询,以及预期使用的来源和适用范围。
对于压缩,应观察压缩后能否继续完成任务,关键限制和未完成事项是否仍然保留。对于长期记忆,应观察信息有没有正确形成记录,后续能否找回,以及新旧状态是否被正确区分。只有最终答案,往往不足以定位中间哪一步出了问题。
分层观察:从写入到实际行为
| 观察位置 | 要回答的问题 | 指标或检查方式 |
|---|---|---|
| 上下文与压缩 | 目标、约束、状态与必要来源是否保留? | 对照关键信息、后续任务表现和输入 token |
| 记忆写入 | 保存的内容、主体、范围与归因是否正确? | 核对抽取准确性、遗漏、重复与来源 |
| 记忆检索 | 正确材料是否进入候选并排在合适位置? | Recall@k、NDCG@k 等,固定相关证据与粒度 |
| 上下文注入 | 已找到的材料是否进入模型实际输入? | 查看最终选择、去重与预算裁剪结果 |
| 更新与应用 | 回答或动作是否采用当前适用的信息? | 更正、跨会话、时间推理及任务正确性 |
| 缺失与移除 | 不知道时能否弃答,已移除内容是否仍被使用? | 不可回答样本、删除后的取用与来源追查 |
| 资源投入 | 增加的维护是否带来实际收益? | 分开记录检索、写入、后台整理和生成的延迟与成本 |
LongMemEval围绕信息提取、跨会话推理、知识更新、时间推理和弃答组织评价,并分别观察回答与记忆召回。这些维度适合用来检查“保存了很多内容,但后续仍然用错”的情况。
LoCoMo 正式论文则提供长对话、证据定位和问答等任务。词项 F1 能观察答案与参考内容的重合,但对不同表述较敏感;模型裁判也有自己的判断误差。不同评价方式需要保留各自边界,不能用一个总分证明系统在所有长期任务中都可靠。
失败定位:看信息在哪一步发生变化
如果一条要求原本存在,压缩后消失,先检查摘要与状态保留;来源完整,提取出的记忆却换了主体,再检查写入。记忆保存正确但没被找回,重点看范围、查询与索引;候选已经命中,却被预算裁掉,检查输入组装。
实际输入已经带着正确材料,回答仍采用旧信息,再看冲突处理与生成。删除后又出现同一事实,则沿来源追查,是索引未清理、历史文件仍被读取,还是后台重新提取。把这些阶段分开,修改才有明确对象。
比较方案时,尽量固定问题、生成模型、输入预算和评价规则,观察一个有明确目的的改动。上下文管理和记忆管理最终都要回到实际任务:信息是否被准确保留,在需要时能否找回,以及它有没有帮助 Agent 作出合适的下一步判断。

