面向个性化对话代理的记忆构建与检索
计算与语言
2025-03-04 v3 人工智能
摘要
为了在长期对话中提供连贯且个性化的体验，现有方法通常通过在对话历史中以轮次级别、会话级别或通过摘要技术构建记忆库以进行检索增强式响应生成。本文提出两个关键发现：(1) 记忆单元的粒度至关重要：轮次级别、会话级别和摘要级别的方法在记忆检索准确性和检索内容的语义质量方面都存在局限。(2) 提示压缩方法，如 LLMLingua-2，可有效作为去噪机制，提升不同粒度下的记忆检索准确性。基于这些洞见，我们提出了 SeCom 方法，通过引入对话分段模型将长期对话划分为主题连贯的片段，同时对记忆单元应用基于压缩的去噪，以提升记忆检索。实验结果表明，SeCom 在长期对话基准数据集 LOCOMO 和 Long-MT-Bench+ 上显著优于基线方法。此外，所提出的对话分段方法在 DialSeg711、TIAGE 和 SuperDialSeg 等对话分段数据集上表现优异。
引用
@article{arxiv.2502.05589,
title = {On Memory Construction and Retrieval for Personalized Conversational Agents},
author = {Zhuoshi Pan and Qianhui Wu and Huiqiang Jiang and Xufang Luo and Hao Cheng and Dongsheng Li and Yuqing Yang and Chin-Yew Lin and H. Vicky Zhao and Lili Qiu and Jianfeng Gao},
journal= {arXiv preprint arXiv:2502.05589},
year = {2025}
}
备注
10 pages, 5 figures, conference