压缩以致惊艳：释放压缩记忆在现实世界长对话中的潜力
计算与语言
2024-07-02 v2
摘要
现有的基于检索的方法在维持长对话方面取得了显著进展。然而，这些方法在记忆数据库管理和准确记忆检索方面面临挑战，阻碍了其在动态现实世界交互中的有效性。本研究引入了一种新框架，即压缩记忆增强对话系统 (COMEDY)，它摒弃了传统的检索模块和记忆数据库。相反，COMEDY 采用“多合一”方法，利用单个语言模型来管理记忆生成、压缩和响应生成。该框架的核心是压缩记忆概念，它将特定会话摘要、用户 - 机器人动态和过去事件整合为简洁的记忆格式。为支持 COMEDY，我们策划了一个大规模中文指令微调数据集 Dolphin，该数据集源自真实的用户 - 聊天机器人交互。对比评估表明，COMEDY 在产生更细致和类人的对话体验方面优于传统的基于检索的方法。我们的代码可在 https://github.com/nuochenpku/COMEDY 获取。
引用
@article{arxiv.2402.11975,
title = {Compress to Impress: Unleashing the Potential of Compressive Memory in Real-World Long-Term Conversations},
author = {Nuo Chen and Hongguang Li and Juhua Huang and Baoyuan Wang and Jia Li},
journal= {arXiv preprint arXiv:2402.11975},
year = {2024}
}
备注
17pages, 5 figures