通过融合与精炼过往记忆实现不断演化的记忆

对于类人聊天机器人而言，构建长期记忆至关重要。然而，当前的大型语言模型通常缺乏这种能力，导致丢失重要用户信息或重复询问相同信息，从而降低对话质量。为了有效地构建记忆，至关重要的是无缝连接过去和现在的信息，同时具备遗忘阻碍性信息的能力。为了应对这些挑战，我们提出了 CREEM，一种用于长期对话的新型记忆系统。在仅基于当前会话构建记忆的现有方法基础上进行改进，CREEM 在记忆形成过程中融合了过去的记忆。此外，我们引入了精炼过程来处理冗余或过时的信息。与传统范式不同，我们将响应生成和记忆构建视为不可分割的任务。创建新记忆的融合过程也作为响应生成的推理步骤，通过告知过去与现在之间的联系来实现。通过评估，我们证明了 CREEM 在多会话个性化对话中提高了记忆和响应的质量。