EvoArena: Tracking Memory Evolution for Robust LLM Agents in Dynamic Environments

基本信息

标题: EvoArena: Tracking Memory Evolution for Robust LLM Agents in Dynamic Environments
第一作者: Jundong Xu (National University of Singapore)
研究团队: NUS, MIT, NTU, UCL, UPenn, SMU, UW, Recursive
会议/期刊: arXiv preprint 2606.13681v1 [cs.CL], 2026
代码: https://github.com/Aiden0526/EvoArena
项目主页: https://aiden0526.github.io/EvoArena/
PDF 文件: [EvoArena](file:///C:/Users/admin/.openclaw/workspace/attachment/papers/20260624_evoarena_tracking_memory_evolution.pdf)

研究摘要

大型语言模型（Large Language Model, LLM）驱动的智能体在各类静态基准测试上已经展现出强劲的性能，然而现实世界中的部署环境本质上是动态变化的：接口不断更新，代码库持续演化，用户偏好随之迁移，工作流程因组织需求而调整。现有的智能体评估范式大多假设环境是静态的——一旦基准构建完成，其接口、规则、任务分布和成功标准就固定不变。这种评估方式与现实部署之间存在根本性的鸿沟，导致智能体在实验室中表现优异，却在真实场景中因环境漂移而频繁失效。

来自新加坡国立大学、麻省理工学院等多个机构的研究团队针对这一核心缺口，提出了 EvoArena——一个系统性地评估智能体在持续演化环境中表现的基准测试套件。EvoArena 将环境变化建模为跨版本的渐进式更新序列，涵盖终端工作流、软件仓库和社交偏好三个互补的演化领域。与此同时，研究团队还提出了 EvoMem，一种轻量级的类 git patch 记忆范式，通过记录记忆演化作为结构化的更新历史，使智能体能够基于记忆变化来推理环境演化。实验结果令人警醒：当前主流智能体在 EvoArena 上的平均准确率仅为 39.6%，表明即便是最先进的系统在动态环境中也远未达到可靠部署的标准。而 EvoMem 的引入则一致性地提升了性能，在 EvoArena 上平均带来 1.5% 的 step-level 提升和 3.7% 的 chain-level 提升，同时在标准基准 GAIA 和 LoCoMo 上也分别取得了 6.1% 和 4.8% 的改进。机制分析进一步揭示，EvoMem 通过更好地保留完整的演化环境状态证据来发挥作用，尤其在与时间轨迹和多模式综合推理相关的任务上表现突出。这些发现深刻揭示了建模演化对于可靠智能体部署的核心重要性——不仅是评估层面，更深入到记忆机制的设计本质。

理论框架

EvoArena 和 EvoMem 的理论建构植根于对智能体记忆系统根本局限性的深刻洞察。现有记忆系统的核心设计范式是维护一个单一的"最新记忆状态"——无论是检索式记忆库、episodic 存储还是结构化笔记，当新观察到来时，系统倾向于将记忆 consolidate（整合）向最新信息。这种设计在信息可以安全替代旧信息的场景中表现良好，但在环境演化的设定下却变得极为脆弱。一个典型的失效模式是"状态坍缩"（state collapse）：当工作流权限更新时，新规则可能覆盖了一条仍然适用于旧版本、其他组织或未来回滚场景的早先规则，agent 因此同时丢失了先前行为和该行为何时有效的上下文。这一洞察揭示了一个深层理论问题：记忆不应该被视为一个可变的单一存储，而应该被理解为一种版本化的演化轨迹。

EvoMem 正是基于这一理论重构而设计的。它将记忆系统从"单一可变存储"（single mutable store）转变为"版本化演化轨迹"（versioned evolution trace）。形式化地，给定输入观察 $x_{t}$ 和基础记忆更新前的状态 $M_{t - 1}$ ，基础更新器产生新状态 $M_{t} = U (M_{t - 1}, x_{t})$ 。EvoMem 不替换这一更新器，而是监控从 $M_{t - 1}$ 到 $M_{t}$ 的转移，计算差异 $Δ_{t} = Diff (M_{t - 1}, M_{t})$ ，并仅对非加性更新（即修订、覆盖或重新解释现有记忆的更新）创建 patch。每个 patch 包含时间元数据 $τ_{t}$ 、更新前后的受影响内容 $C_{t}^{-}$ 和 $C_{t}^{+}$ 、更新原理 $r_{t}$ 、语义摘要 $z_{t}$ 以及支持证据 $e_{t}$ 。这种设计在理论上实现了三个关键分离：最新记忆 $M_{t}$ 存储当前整合状态，而 patch 历史 $P_{1 : t}$ 保存了解释当前状态如何达成的中间转移。agent 可以基于最新记忆行动，同时保留对先前状态、原理和证据的访问权，以进行版本感知推理。

从更广泛的认知科学视角来看，EvoMem 的设计与人类的情景记忆（episodic memory）和工作记忆更新机制存在有趣的类比。人类并非简单地用最新信息覆盖旧记忆，而是将经验编码为时间序列上的情节，能够在需要时重新激活和重构过去的状态。EvoMem 的 patch 历史在功能上类似于这种情节轨迹，使得 agent 不仅能够"知道什么"（know-what），还能够"知道什么曾经是什么以及为什么变了"（know-what-was and why-it-changed）。这种对记忆时间维度的显式建模，可能是构建能够在开放世界中持续学习和适应的智能体系统的必要理论前提。

技术架构

EvoArena 的基准构建和 EvoMem 的记忆架构可以被理解为一个从环境建模到记忆增强的完整技术体系，包含三个相互关联的层次：演化环境建模、patch 记录机制和 patch 增强检索。

在演化环境建模层面，EvoArena 覆盖了三种互补的演化形态。Terminal-Bench-Evo 将原始的 Terminal-Bench 任务转换为版本化的工作流链：每个任务保持相同的高层次目标，但周围的执行条件——如环境配置、命令行接口、文件系统布局、依赖设置、输入输出契约或验证规则——在版本间发生变化。版本 $v_{i} (t)$ 从版本 $v_{i} (t - 1)$ 继承已实现的环境，使得链形成一个连贯的工作流历史而非独立变体的集合。SWE-Chain-Evo 则采用不同的演化模型：每个链是一系列按时间顺序排列的里程碑 $C_{i} = {m_{i} (1), \dots, m_{i} (T_{i})}$ ，每个里程碑代表一个语义连贯的开发目标。关键设计是"oracle-state progression"——在步骤 $t$ 评估后，系统应用参考里程碑更新（而非 agent 的预测 patch）来形成步骤 $t + 1$ 的仓库状态，从而将适应演化仓库状态的能力与早期失败 patch 导致的累积错误分离开来。PersonaMem-Evo 构建了最长的时间维度：为每个合成用户 persona 生成长达 597 轮对话的交互历史（中位数），并通过五种变化家族（同对象态度修正、对象替换、条件偏好偏移、属性偏移、时间有效性偏移）引入结构化的偏好演化轨迹。

EvoMem 的 patch 记录机制构成了技术架构的核心创新。它通过监控基础记忆更新器 $U$ 的输出来捕获行为上有意义的转移。当检测到非加性更新时，EvoMem 写入一个 append-only 的 patch 历史。这种设计的精妙之处在于它的非侵入性：EvoMem 不修改基础记忆系统的更新逻辑，而是作为一个旁路监控层运行。这使得它可以被无缝集成到多种现有的 agent 记忆系统中，包括 Terminus2 的终端任务解决知识、OpenHands 的软件工程上下文、A-Mem 的语义笔记和链接、以及 Memento-Skill 的全局 TIP.md 技能记忆。每个集成实例只需定义三个组件：基础记忆状态 $M_{T}$ 、触发 patch 的非加性更新类型、以及覆盖 patch 历史的检索函数。

Patch 增强检索机制则是将版本化记忆转化为实际行动的关键。给定查询 $q$ ，EvoMem 首先遵循标准记忆 agent pipeline 从最新记忆检索证据 $c_{mem} = R_{mem} (q, M_{T})$ ，然后从 patch 历史检索相关 patches $P_{q} = R_{patch} (q, P_{1 : T})$ 。最终上下文 $c (q) = Concat (c_{mem}, P_{q})$ 被提供给 agent 用于响应生成或行动选择。这种设计确保在普通情况下 agent 使用最新记忆即可，只有当查询依赖于时间变化、覆盖信息或版本特定行为时，历史 patches 才会被激活。检索的判别性至关重要——不必要的 patch 检索不仅浪费上下文窗口，还可能引入过时信息造成干扰。

实验评估

EvoArena 的实验设计遵循严格的因果隔离原则：通过配对适合各领域交互设定的 agent（Terminus2 用于终端、OpenHands 用于软件工程、A-Mem 用于偏好推理、Memento-Skill 用于通用工具使用），并在多个 backbone 模型上评估，确保观察到的差异可归因于 EvoMem 的记忆机制而非模型能力或 agent 架构本身。

在 EvoArena 上的主要结果（表 3）揭示了三个核心发现。首先，当前智能体在持续环境演化下表现挣扎，尤其在 chain-level。Base agent 在 Terminal-Bench-Evo 上的 step accuracy 为 43.6%，但 chain accuracy 仅 21.5%；在 SWE-Chain-Evo 上分别为 29.2% 和 10.6%；在 PersonaMem-Evo 上分别为 46.5% 和 39.1%。chain-level 的大幅下降说明解决孤立步骤并不等同于在持续环境演化中保持可靠性——agent 可能在某个版本上成功，但由于未保留对先前版本关键约束的记忆，在后续版本中失败。其次，EvoMem 在 EvoArena 的所有子集上一致提升性能：Terminal-Bench-Evo 平均 +2.4%（step）、+6.1%（chain）；SWE-Chain-Evo 平均 +0.5%（step）、+2.9%（chain）；PersonaMem-Evo 平均 +1.8%（step）、+3.0%（chain）。EvoMem 还在标准基准上表现出色：GAIA 平均 +6.1%，LoCoMo 平均 +4.8%。第三，EvoMem 在 chain-level 的提升普遍大于 step-level，这表明保留演化感知知识对于维持跨相关环境状态序列的一致性尤为关键。

机制分析进一步解释了 EvoMem 何时以及为何有效。在 Terminal-Bench-Evo 上，当 EvoMem 检索到显式 patch 示例且 agent 在后续推理或命令中 operationalize（操作化）了这些转移信息时，提升最大（+8.3% patch uptake vs. +2.6% no uptake）。这说明 EvoMem 并非简单地增加更多上下文，而是帮助 agent 识别"可复用旧策略中的哪部分仍然有效、哪部分需要因当前演化而修订"。在 SWE-Chain-Evo 上，EvoMem 将 Pass-to-Pass 失败率（回归率）从 9.09% 降至 6.32%，表明 patch 历史帮助 agent 在适应新里程碑的同时保留历史代码约束。在 PersonaMem-Evo 上，EvoMem 在时间轨迹（+5.2%）和多模式综合（+5.2%）问题上提升最大，而证据保留分析显示 row-level capture（完整证据集保留率）从 72.5% 提升至 74.9%，且 temporal trajectory 类别提升最大（+4.4%），直接验证了 patch 历史通过保留连贯的版本化证据来改善推理。

案例研究

论文虽未提供像 Self-Harness 那样详细的 before-after 轨迹对比，但 EvoArena 的构建过程本身包含了丰富的定性示例。以 Terminal-Bench-Evo 中的一个工作流链为例：原始任务目标始终是"推送 hello.html 并在 8080 端口提供服务"，但五个版本逐步改变了关键操作约束——版本 1 要求通过 post-receive hook 部署（首次推送失败、重试成功），版本 2 更改了实际服务的目录路径，版本 3 引入了 web 根目录的权限保护，版本 4 要求部署必须使用 www-data 组的写权限，版本 5 则拒绝向 master 分支推送、仅允许 main 分支触发部署。一个未配备 EvoMem 的 agent 可能在版本 3 成功部署后，在版本 5 仍然尝试向 master 推送，因为它只保留了"最新"的记忆（版本 3 的权限规则），而丢失了版本 5 新引入的分支策略。配备 EvoMem 的 agent 则可以通过检索版本 5 的 patch 来识别"仅 main 分支可触发部署"这一关键转移，从而调整其行为。

在 PersonaMem-Evo 的案例中，一个用户的偏好演化轨迹可能是：最初喜欢高强度徒步（intense hiking）→ 受伤后避免高强度徒步 → 康复后偏好轻度步道行走（light trail walks）。一个传统记忆系统可能只保留"偏好轻度步道行走"这一最新状态，当面对"推荐周末户外活动"的查询时可能给出恰当的回答。但如果查询是"回忆你受伤前的运动偏好"或"描述你的运动习惯如何随时间变化"，仅保留最新状态的 agent 将完全失败。EvoMem 的 patch 历史则保留了每个转移节点：从"高强度徒步"到"避免高强度徒步"的 change family 是"同对象态度修正"，触发原因是受伤；从"避免高强度徒步"到"轻度步道行走"的 change family 同样是"同对象态度修正"，触发原因是康复。这些 patch 使得 agent 能够回答关于偏好历史、演化原因和时间轨迹的问题，而不仅仅是关于当前偏好的问题。

SWE-Chain-Evo 的案例则展示了软件演化中更为微妙的依赖关系。在一个 aiohttp 的演化链中，里程碑 1 可能引入安全的 cookie 序列化（从 legacy pickle 转为 restricted），里程碑 2 可能增加 multipart 解析的头部注入防护，里程碑 3 可能处理空值时的内容类型保留，里程碑 4 则可能修复时区偏移的动态计算。每个里程碑不仅引入新功能，还隐含地建立了后续里程碑必须尊重的约束。例如，里程碑 1 的 restricted cookie 序列化机制必须被里程碑 2-4 保留。一个未跟踪演化历史的 agent 在实现里程碑 4 的时区修复时，可能无意中回退了里程碑 1 的安全序列化策略，导致 Pass-to-Pass 回归失败。EvoMem 通过保留每个里程碑的 patch 记录——特别是那些"被取代但仍需保留"的实现策略——帮助 agent 避免这种回归。

综合价值与局限

EvoArena 和 EvoMem 的贡献可以从两个互补的维度来理解：评估维度为社区提供了一个诊断智能体在动态环境中鲁棒性的系统工具；机制维度则提出了一种可立即部署的记忆增强方案，且已被证明跨多种 agent 架构和基准有效。

在评估层面，EvoArena 填补了智能体基准测试中的一个关键空白。现有基准要么完全静态（如 WebArena、SWE-bench、GAIA），要么仅引入异步事件或任务刷新（如 GAIA2、SWE-bench-Live）而非持续的环境版本演化。EvoArena 的独特之处在于它建模了"同一环境在多个版本中的持续演化"，这要求 agent 具备前向适应能力（适应新变化）和版本兼容能力（保留对仍然有效的先前知识的利用）。这种评估设计直接反映了真实部署场景中的核心挑战：API 版本迁移、代码库的持续集成、用户偏好的长期演化。Chain accuracy 指标尤其具有诊断价值——它揭示了一个常被忽视的部署风险：agent 可能在大多数单个任务上表现尚可，但在需要持续可靠性的长序列中频繁失败。

在机制层面，EvoMem 的最大优势在于其轻量级和非侵入性。它不要求替换现有的记忆系统，而是作为一个增强层工作，记录"否则会被丢弃"的非加性更新。这种设计决策体现了对工程现实的深刻理解：生产环境中的 agent 往往已经集成了复杂的记忆基础设施（如 Mem0、A-Mem、LangGraph），完全替换这些系统的成本极高。EvoMem 的"类 git"patch 模型也符合软件工程师的直觉，降低了理解和维护的门槛。实验显示它在四种不同的 agent 架构上均有效，且不仅在演化基准上有效，在标准静态基准（GAIA、LoCoMo）上也带来提升，说明版本化记忆对于一般性的长程推理同样有益。

然而，这一工作也存在重要的局限。首先，EvoArena 目前仅覆盖三个领域（终端工作流、软件工程、社交偏好），虽然这些领域具有代表性，但许多其他关键场景——如机器人操作中的物理状态演化、科学实验中的协议更新、多智能体协作中的角色漂移——尚未被纳入。其次，EvoMem 的 patch 记录依赖于对"非加性更新"的准确检测，这在某些记忆系统中可能难以实现（例如，当记忆以密集向量而非结构化文本形式存储时，Diff 操作可能缺乏语义意义）。第三，patch 检索的判别性是一个未充分解决的问题：实验显示当检索到不相关 patches 时可能引入噪声（如 GPT-5.5 在 PersonaMem-Evo 的 temporal trajectory 问题上出现 -4.3% 的下降），说明如何准确判断一个查询是否需要历史 patch 仍然是一个开放挑战。最后，EvoMem 的 token 效率问题值得关注：虽然论文显示更高的 token 消耗并不总是带来更好的性能，但在某些 backbone 上（如 GPT-5.5 在 Terminal-Bench-Evo 上使用 505M tokens），patch 历史的引入可能显著增加推理成本。

延伸阅读与思考

EvoArena 与多个重要的研究领域紧密相连。在动态基准测试的谱系中，它与 GAIA2 的异步事件、HorizonBench 的偏好演化、以及 SWE-bench-Live 的任务刷新等方向形成互补。EvoArena 的独特贡献在于引入了"版本链"概念和 chain-level 评估指标，这使得它不仅测试 agent 能否处理孤立的新变化，更测试其能否在持续累积的演化历史中保持可靠性。在记忆系统研究方面，EvoMem 与 Mem0 的生产级长期记忆、A-Mem 的语义笔记和链接、以及 Reflexion 的口头反馈积累等方向存在有趣的张力：这些系统倾向于 consolidate 记忆向最新状态，而 EvoMem 则主张保留完整的更新历史。这两种哲学可能在未来融合——也许理想的记忆系统既能够高效地 consolidate 最新知识，又能在需要时重构历史的演化轨迹。

从更广泛的技术趋势来看，EvoArena 和 EvoMem 与 Self-Harness（上海 AI 实验室同期工作）形成了有趣的呼应：Self-Harness 研究的是 agent 如何改进自身的 harness，而 EvoArena/EvoMem 研究的是 agent 如何在环境变化时保持可靠。这两个方向共同指向了一个更深层的主题——智能体系统的"元稳定性"（meta-stability）：不仅要在当前环境中有效行动，还要能够适应环境的变化，甚至参与塑造自身与环境的交互方式。这三篇论文（加上 Meta-Harness 等外部优化器工作）共同勾勒出了一个新兴的研究领域：智能体系统的自我演化生态，其中 harness、记忆和环境都在持续地相互塑造。

未来研究方向丰富多样。一个直接的问题是如何将 EvoMem 扩展到非文本记忆模态：当记忆以图像、代码嵌入或知识图谱形式存在时，patch 的表示和 Diff 操作需要全新的设计。另一个方向是研究 patch 的自动压缩和摘要：随着演化历史的增长，patch 历史本身可能变得难以管理，如何提取关键的"演化里程碑"而保留完整的"演化细节"是一个重要的工程问题。在评估层面，将 EvoArena 的框架扩展到多模态环境（如视觉导航 agent 面对不断重新布置的室内空间）和物理世界（如机器人面对磨损和更换的部件）将是极具挑战但价值巨大的工作。最后，一个深层的理论问题浮现：如果环境、agent 的记忆和 agent 的 harness 都在同时演化，那么"最优"的记忆策略是什么？是否存在某种演化博弈均衡，使得 agent 的记忆更新策略与环境的演化模式达到最优匹配？这些问题的探索可能会推动我们对智能体系统在开放世界中长期自主运行的理解达到新的深度。

个人而言，EvoArena 最引人深思的启示在于它揭示了一个被长期忽视的评估偏差：我们对智能体能力的理解可能严重偏向于静态场景，而静态场景下的优秀表现对于真实部署的预测价值可能远低于预期。这让我反思：在推进更强大的模型、更复杂的推理架构的同时，我们是否忽视了更基础的"生存技能"——在变化中保持稳定、在历史中汲取教训、在不确定性中做出合理推断？EvoMem 提供的不是一个终极解决方案，而是一个务实的起点：通过记录"什么变了、为什么变、什么仍然有效"，让 agent 获得一种朴素的"历史意识"。这种历史意识或许正是从"工具"走向"伙伴"、从"程序"走向"存在"的必经之路。

笔记创建时间: 2026-06-24
阅读方式: L2 深度阅读

Topics: