中文

MemSearch-o1:基于推理对齐记忆增长的大语言模型智能搜索

信息检索 2026-05-13 v2

摘要

近期大语言模型 (LLM) 的进展拓展了推理与智能搜索的潜力,其中模型能够自主规划、检索并针对外部知识进行推理以解答复杂查询。然而,迭代思考-搜索循环会累积长期系统记忆,导致记忆稀释问题。此外,现有记忆管理方法难以捕捉查询与文档之间细粒度的语义关系,往往丢失大量信息。因此,我们提出 MemSearch-o1,一种基于推理对齐记忆增长和回溯的智能搜索框架。MemSearch-o1 从查询的记忆种子 token 中动态增长细粒度记忆碎片,通过贡献函数进行回溯和深度细化,然后重新组织全局连接的记忆路径。这将记忆管理从类流式拼接转变为结构化、token 级别的增长,以及基于路径的推理。在八个基准数据集上的实验表明,MemSearch-o1 有效缓解了记忆稀释,更有效地激发了各类 LLM 的推理潜力,为记忆感知的智能体提供了坚实基础。

关键词

引用

@article{arxiv.2604.17265,
  title  = {MemSearch-o1: Empowering Large Language Models with Reasoning-Aligned Memory Growth in Agentic Search},
  author = {Sheng Zhang and Junyi Li and Yingyi Zhang and Pengyue Jia and Yichao Wang and Xiaowei Qian and Wenlin Zhang and Maolin Wang and Yong Liu and Xiangyu Zhao},
  journal= {arXiv preprint arXiv:2604.17265},
  year   = {2026}
}