中文

唤起用户记忆:基于记忆熟悉度自适应检索的个性化大语言模型

信息检索 2026-03-11 v1

摘要

个性化大语言模型(LLM)依赖记忆检索来融合用户的历史记录、偏好和上下文。现有方法要么通过将用户的所有过去记忆输入提示词来实现,从而在成本和可扩展性方面存在问题;要么将检索简化为一次相似性搜索,仅捕获表层匹配。然而,认知科学表明,人类记忆通过双重过程运作:熟悉感提供快速但粗略的识别,而回忆则实现对深层情景内容的精确重建。当前系统缺乏回忆检索能力以及在双重检索路径之间自适应切换的机制,导致要么记忆不足,要么包含噪声。为此,我们提出RF-Mem(回忆-熟悉记忆检索),一种熟悉度不确定性引导的双路径记忆检索器。RF-Mem通过平均得分和熵来衡量熟悉度信号。高熟悉度 leads to 直接的顶级熟悉度检索路径,而低熟悉度则激活回忆路径。在回忆路径中,系统对候选记忆进行聚类,并通过α混合查询以迭代方式在嵌入空间中扩展证据,模拟出 deliberate 的上下文重建。该设计将人类类记忆的双重过程识别嵌入检索器中,既避免了完整上下文的开销,又实现了可扩展且自适应的个性化。实验在三个基准和语料库规模上表明,RF-Mem 在固定预算和延迟约束下,始终优于一次性检索和全上下文推理。我们的代码可在可重复性声明中找到。

关键词

引用

@article{arxiv.2603.09250,
  title  = {Evoking User Memory: Personalizing LLM via Recollection-Familiarity Adaptive Retrieval},
  author = {Yingyi Zhang and Junyi Li and Wenlin Zhang and Penyue Jia and Xianneng Li and Yichao Wang and Derong Xu and Yi Wen and Huifeng Guo and Yong Liu and Xiangyu Zhao},
  journal= {arXiv preprint arXiv:2603.09250},
  year   = {2026}
}

备注

Accepted by ICLR 2026