回归基础:仅靠检索与生成,让对话式智能体记住事物
计算与语言
2026-04-15 v1 人工智能
摘要
现有的对话记忆系统依赖复杂的层次化摘要或强化学习来管理长期对话历史,但仍然容易受到上下文稀释,即随着对话长度增长而产生性能下降。本文提出了不同视角:主要瓶颈可能不在记忆架构,而在潜在知识流形中的 \textit{信号稀疏效应}。通过控制实验,我们识别出两个关键现象:\textit{决定性证据稀疏}——随着会话长度增加,相关信号变得越来越孤立,导致基于聚合的方法出现显著性能下降;\textit{双层冗余}——会话间干扰和对话中填充性内容引入大量非信息性内容,阻碍有效生成。鼓励这些发现,我们提出 \method,一种极简主义框架,将对话记忆拉回基础,只依赖检索与生成,通过轮次隔离检索 (TIR) 和查询驱动修剪 (QDP)。TIR 用最大激活策略取代全局聚合,以捕获轮次级别的信号;QDP 删除冗余会话和对话填充内容,以构建紧凑、高密度证据集合。大量实验表明,\method 在多种设置下均实现稳健性能,持续优于强大基线,同时在 token 数和延迟方面保持高效,确立了对话记忆的新型极简基准。
引用
@article{arxiv.2604.11628,
title = {Back to Basics: Let Conversational Agents Remember with Just Retrieval and Generation},
author = {Yuqian Wu and Wei Chen and Zhengjun Huang and Junle Chen and Qingxiang Liu and Kai Wang and Xiaofang Zhou and Yuxuan Liang},
journal= {arXiv preprint arXiv:2604.11628},
year = {2026}
}
备注
23 pages, 12 figures