VikingMem:用于无状态 LLM 应用的记忆基管理系统
人工智能
2026-05-29 v1
摘要
大型语言模型已彻底变革了交互式应用,但其有限的上下文窗口为维持长期交互的状态性记忆管理带来了关键数据管理挑战。现有记忆方法常依赖简单提取技术导致记忆不完整,或使用针对单一用例(如聊天机器人)的刚性单用途记忆提取提示,缺乏通用性,在 diverse downstream 任务中表现不佳。为弥合这一差距,我们提出了记忆基(Memory Base),一种用于管理长期交互持久状态的数据管理范式。其特征包括:从原始信息流中选择性提取高价值记忆;内在的状态性和演化特性,记忆内容逐渐被总结、纠正并按时间加权,以优先近期交互;以及面向鲁棒跨应用迁移的通用抽象范式,适用于教育、推荐和智能体记忆等场景。基于此基础,我们构建了 VikingMem,这是一个在 VikingDB 向量引擎上实现的端到端记忆基管理系统。VikingMem 通过事件和实体抽象实现了该范式:事件中心的记忆提取用于选择性处理复杂信息流,而实体由事件动态更新以实现状态演化。通过基于主题的时间线进行时间压缩和时间加权召回,系统逐步生成高层次总结记忆,优先近期项目,压缩和淡化旧内容。广泛的长期记忆基准评估表明,VikingMem 在记忆检索效果上较基线方法提升最高可达 30%,同时保持适用于交互式应用的低延迟。
引用
@article{arxiv.2605.29640,
title = {VikingMem: A Memory Base Management System for Stateful LLM-based Applications},
author = {Jiajie Fu and Junwen Chen and Mengzhao Wang and Aoxiang He and Maojia Sheng and Xiangyu Ke and Yifan Zhu and Yunjun Gao},
journal= {arXiv preprint arXiv:2605.29640},
year = {2026}
}
备注
Accepted by VLDB26