简介
文章介绍上海交大与阿里通义联合提出的ReMe框架,通过多维度蒸馏、上下文自适应重用和基于效用的精炼三个机制重构记忆生命周期。实验表明ReMe刷新智能体记忆系统SOTA,"记忆扩展效应"显示配备ReMe的Qwen3-8B模型在Avg@4和Pass@4指标上超越无记忆的更大模型Qwen3-14B分别达8.83%与7.29%,证明高质量的自进化记忆可作为计算高效、替代模型规模增长的终身学习路径。
近年来,大语言模型智能体正从静态模型向具备自主推理与工具调用能力的动态系统演进,而程序性记忆(procedural memory)作为内化“如何做”知识的关键机制,有望显著减少冗余试错、提升任务泛化能力。然而,现有方法多采用“被动累积”范式,将记忆视为静态、仅追加的档案库,难以支持动态推理与持续优化。
为弥合静态存储与动态认知之间的鸿沟,**上海交通大学联合阿里通义的研究者们提出 ReMe(Remember Me, Refine Me)——一个面向经验驱动的智能体进化框架,通过多维度蒸馏、上下文自适应重用、基于效用的精炼三个核心机制重构记忆生命周期。**在 BFCL-V3 与 AppWorld 基准上的大量实验表明,ReMe 显著优于现有方法,刷新了智能体记忆系统SOTA。尤为关键的是,实验揭示了“记忆扩展效应”:配备 ReMe 的 Qwen3-8B 模型在 Avg@4 和 Pass@4 指标上分别超越无记忆的更大模型 Qwen3-14B 达 8.83% 与 7.29%,证明高质量的自进化记忆可作为一种计算高效、替代模型规模增长的终身学习路径。
论文标题:
Remember Me, Refine Me: A Dynamic Procedural Memory Framework for Experience-Driven Agent Evolution
论文链接:
https://arxiv.org/pdf/2512.10696
项目链接:
https://github.com/agentscope-ai/ReMe
一、方法
图2 ReMe框架图
如图2所示,ReMe 框架包含三个相互关联的阶段:经验获取、经验重用和经验精炼。在经验获取阶段,总结模块分析智能体生成的轨迹(包括成功与失败的轨迹),并将其中可操作的知识提炼为结构化的经验池。在经验重用阶段,面对新任务时,检索模块从经验池中召回相关经验,这些经验随后被融入智能体的上下文,以增强其推理能力和任务求解表现。最后,在经验精炼阶段,系统持续优化经验池,通过纳入新的可靠经验并剔除过时经验,确保经验库在长期使用中保持相关性,并能适应不断变化的任务需求。
(1)经验获取
首先,将智能体经验ε定义为代理执行见解的结构化、可泛化的表示。每个单独的经验E ∈ε 表示为E = ⟨ ω, e, κ, c, τ ⟩,其中,ω指明指明何时使用该经验,e 表示核心经验内容κ = {κ1,κ2,…,κm}是用于分类的相关关键词集合,c∈[0,1]量化置信度分数,τ 表示所使用的工具。
ReMe 框架通过系统化流程构建高质量的初始经验池:首先,执行智能体 LLMexecute 在多个训练任务上采样多条执行轨迹,以覆盖多样化的成功与失败路径;随后,总结模型 LLMsumm对这些轨迹进行多维蒸馏,包括识别成功策略、分析失败原因以及对比成功与失败的关键差异,从而提炼出结构化、可复用的经验;接着,通过 LLM-as-a-Judge 机制验证经验的准确性、可操作性与价值,并利用相似度去重去除冗余内容,确保经验池的紧凑性与多样性;最终,所有有效经验以其使用场景的嵌入向量为索引,存入向量数据库。这一流程为后续高效检索和策略性推理提供了坚实基础。
(2)经验重用
在经验重用阶段,ReMe 通过检索、重排序与重写三步机制,将历史经验有效适配到当前任务:首先,利用高性能嵌入模型对任务查询与经验池进行相似性匹配,召回 top-K 最相关的经验;其次,可选地引入上下文感知的重排序模块(LLMrerank),结合当前任务的具体约束和目标,精细化评估经验的相关性;最后,通过重写模块将多条原始经验整合为一条连贯、聚焦且任务导向的指导文本,提升其直接可用性。这一流程不仅增强了经验的即时效用,还使智能体能够在复用既有知识的同时保持灵活、上下文敏感的推理能力,实现利用与探索的有机平衡。
(3)经验精炼
ReMe 框架通过经验精炼机制来实现经验池的动态优化,在添加新经验采用选择性添加策略:仅将成功完成任务的轨迹进行蒸馏,提炼出结构化、可复用的经验并存入经验池。尽管在初始构建阶段可通过多条失败轨迹的联合分析提取有价值的信息,但在实时任务执行中,单次失败轨迹往往缺乏足够的上下文支持准确归因,容易生成误导性经验。
此外,采用失败感知反思机制:当任务失败时,由 LLMsumm 分析失败原因并生成改进建议,LLMexecute 基于建议重新尝试,仅在新尝试成功时将所得洞见存入记忆,并限制最多进行 3 轮自我反思以防陷入无效循环。
ReMe持续记录现有体验的状态,包括总调用次数f和历史效用u,每次其调用有助于成功完成任务时,效用就会增加1。当经验 E ∈ ε 频繁被调用但未能提高新任务性能时,它将被删除:
通过整合上述组件,ReMe 构建了一个能够自我进化的经验池,既能保留高质量的经验以塑造智能体的长期行为,又能灵活适应新的任务需求。
二、评估
表1 ReMe与基线模型在BFCL‑V3、AppWorld基准测试上的性能比较
表1展示了ReMe在Qwen3系列模型上于BFCL-V3和AppWorld基准测试中的主要结果。总体而言,**ReMe在三种不同模型规模下均取得了最高的平均任务成功率,始终优于无记忆基线方法以及其他具有竞争力的基线记忆系统。**具体而言,在Qwen3-8B模型上,ReMe相较于无记忆基线方法,在Pass@4指标上平均提升了7.29%,在Avg@4指标上平均提升了8.83%。Pass@4指标的提升表明,检索到的经验能够有效拓宽探索空间,从而提高在多次尝试中至少找到一个成功解决方案的概率。
**ReMe 动态版本在所有模型规模和基准测试中始终优于其静态版本,凸显了在任务执行过程中进行自适应经验精炼的重要性。此外,与基线方法相比,ReMe(动态)性能有突出的稳定性。**例如,LangMem在BFCL-V3上表现良好,但在AppWorld上的性能显著下降。相比之下,ReMe在BFCL-V3和AppWorld两个基准测试中均展现出卓越的一致性。ReMe 倾向于降低多次运行之间性能的标准差,尤其是在较大模型上更为明显。这表明 ReMe 不仅提升了整体性能,还增强了模型输出的鲁棒性与可靠性。
值得注意的是,配备ReMe的小模型可以与甚至超越无记忆的大模型。例如,Qwen3‑8B+ReMe(动态)的平均Pass@4分数超过了朴素Qwen3‑14B模型。类似地,Qwen3‑14B+ReMe(动态)超过了无记忆Qwen3‑32B的整体性能。这表明有效的记忆机制可以显著缩小不同模型规模之间的性能差距。
图5 使用与未使用 ReMe 时失败任务的统计情况
研究者对 Qwen3-8B 模型在 BFCL-V3 基准上使用与未使用 ReMe 时的错误模式进行了分析。图5(a)所示,失败案例总数从 62 个减少到 47 个。ReMe 修正了 17 个基线独有的错误,仅引入了 2 个新错误。此外,进行人工审查并对每类失败案例进行归类,以考察 ReMe 对不同错误类型的影响,如图5(b)所示。推理错误显著减少(从 22 降至 14),表明ReMe能有效利用过往经验,增强其多步推理能力,从而减少早期错误的传播。动作遗漏错误也出现了中等但具有实际意义的下降,这有助于智能体识别多轮任务中缺失的操作步骤,尤其是在需要顺序工具调用或状态追踪的任务中。
三、如何学习AI大模型?
如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!
这份完整版的大模型 AI 学习和面试资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
这是一份大模型从零基础到进阶的学习路线大纲全览,小伙伴们记得点个收藏!
第一阶段:从大模型系统设计入手,讲解大模型的主要方法;
第二阶段:在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段:大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段:大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段:大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段:以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段:以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
100套AI大模型商业化落地方案
大模型全套视频教程
200本大模型PDF书籍
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
LLM面试题合集
大模型产品经理资源合集
大模型项目实战合集
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓