重新思考记忆方式:超越终身 LLM 智能体记忆中的原子事实
计算与语言
2026-05-20 v1
摘要
为了实现可靠的长期交互,LLM 智能体需要一个能够忠实存储、高效检索并对累积对话历史进行深度推理的记忆系统。现有的大多数方法采用基于提取事实的范式:手工设计的静态提示将原始对话压缩为原子事实,然后存储、匹配并注入下游推理。然而,这种以事实为中心的设计不可避免地丢弃了原始对话中的细粒度细节,并且无法支持对分散孤立事实的深度推理。此外,静态提示无法在不同的对话风格中保持一致的提取粒度。为了解决这些局限性,我们提出了 TriMem,它维护三种共存的表示粒度,包括由源标识符锚定的原始对话片段以保证存储保真度,提取的原子事实以实现高效记忆检索,以及综合的画像,将分散的事实聚合成整体的语义理解以进行深度推理。我们进一步采用基于 TextGrad 的提示优化,通过响应质量反馈迭代地优化提取和画像提示,从而在无需任何参数更新的情况下实现终身进化。在 LoCoMo 和 PerLTQA 数据集上跨多个 LLM 骨干网络进行的大量实验表明,TriMem 始终优于强大的记忆基线。代码可在 https://TMLR-TriMem.github.io 获取。
引用
@article{arxiv.2605.19952,
title = {Rethinking How to Remember: Beyond Atomic Facts in Lifelong LLM Agent Memory},
author = {Jingwei Sun and Jianing Zhu and Jiangchao Yao and Tongliang Liu and Bo Han},
journal= {arXiv preprint arXiv:2605.19952},
year = {2026}
}