目标导向搜索在长上下文记忆任务中优于无目标记忆压缩
计算与语言
2025-12-01 v1 人工智能
机器学习
摘要
如何在大语言模型（LLM）中实现类人长期记忆一直是解锁更多通用能力（如few-shot泛化）的核心问题。现有记忆框架和基准测试聚焦于寻找最佳记忆压缩算法，以提高需要回忆和时有时需进一步推理的任务性能。然而，这些努力最终通过为特定基准寻找最佳提示和记忆架构来构建更强人类偏见的压缩算法，而非找到适用于其他数据分布的通用解决方案。另一方面，对未压缩信息进行目标导向搜索可能表现出优越性能，因为压缩是有损的，预定义的压缩算法不适用于所有原始数据分布。我们提出SUMER（通过经验回放搜索未压缩记忆），这是一种具有可验证奖励（RLVR）的端到端强化学习智能体，学习使用搜索工具收集信息并回答目标问题。在用于长上下文对话理解的LoCoMo数据集上，SUMER使用Qwen2.5-7B-Instruct学习了搜索工具，超过了所有其他偏见记忆压缩方法以及完整上下文基线，达到SOTA性能（相较于前所未有的 best 提升43%）。我们表明，对原始数据简单应用搜索方法优于当前长上下文记忆任务中无目标且偏见压缩算法，主张建立更动态和自主可扩展的新范式和基准测试。SUMER及所有实现的基线代码均公开于https://github.com/zycyc/SUMER。
引用
@article{arxiv.2511.21726,
title = {Goal-Directed Search Outperforms Goal-Agnostic Memory Compression in Long-Context Memory Tasks},
author = {Yicong Zheng and Kevin L. McKee and Thomas Miconi and Zacharie Bugaud and Mick van Gelderen and Jed McCaleb},
journal= {arXiv preprint arXiv:2511.21726},
year = {2025}
}