中文

什么值得记忆:面向LLM代理的自适应记忆蒸馏

人工智能 2026-04-17 v4

摘要

LLM代理的记忆系统在确定应保留何信息方面存在挑战。现有方法依赖预定义的启发式规则,如重要性评分、情感标签或事实模板,将设计者的直觉编码而非从数据中学习。在灵感来源于认知理论后,我们提出NEMORI—an一种自适应记忆蒸馏框架,将经验未来效用评估建模为可预测性问题。具体而言,NEMORI包含两个级联模块:情节记忆集成将原始交互转化为连贯叙事,语义知识蒸馏通过预测误差提取洞见。以蒸馏为中心,该框架对下游管理保持中立。广泛实验表明,NEMORI实现了卓越的性能、效率和存储压缩。我们的工作表明,观察交互序列的内在属性为基于启发式的记忆设计提供了可行的数据驱动替代方案。代码:https://github.com/nemori-ai/nemori

关键词

引用

@article{arxiv.2508.03341,
  title  = {What Deserves Memory: Adaptive Memory Distillation for LLM Agents},
  author = {Wenquan Ma and Jiayan Nan and Wenlong Wu and Yize Chen},
  journal= {arXiv preprint arXiv:2508.03341},
  year   = {2026}
}