前瞻与回顾：面向长期个性化对话代理的反思性记忆管理
计算与语言
2025-07-29 v2 人工智能
摘要
大型语言模型（LLM）在开放式对话中取得了显著进展，但其无法从长期交互中保留和检索相关信息，限制了它们在需要持续个性化的应用中的有效性。外部记忆机制被提出以解决这一限制，使 LLM 能够保持对话连续性。然而，现有方法在两个关键挑战上存在困难。首先，僵化的记忆粒度无法捕捉对话的自然语义结构，导致碎片化和不完整的表示。其次，固定的检索机制无法适应多样的对话上下文和用户交互模式。在这项工作中，我们提出了反思性记忆管理（RMM），一种用于长期对话代理的新颖机制，整合了前瞻和后顾反思：（1）前瞻反思，跨粒度（话语、轮次和会话）动态总结交互，形成个性化记忆库以供未来有效检索；（2）后顾反思，基于 LLM 引用的证据以在线强化学习（RL）方式迭代优化检索。实验表明，RMM 在各种指标和基准上表现出一致的改进。例如，在 LongMemEval 数据集上，RMM 比没有记忆管理的基线显示出超过 10% 的准确率提升。
引用
@article{arxiv.2503.08026,
title = {In Prospect and Retrospect: Reflective Memory Management for Long-term Personalized Dialogue Agents},
author = {Zhen Tan and Jun Yan and I-Hung Hsu and Rujun Han and Zifeng Wang and Long T. Le and Yiwen Song and Yanfei Chen and Hamid Palangi and George Lee and Anand Iyer and Tianlong Chen and Huan Liu and Chen-Yu Lee and Tomas Pfister},
journal= {arXiv preprint arXiv:2503.08026},
year = {2025}
}
备注
Accepted to ACL 2025