中文

G-Memory:多智能体系统的层次化记忆追踪

最优化与控制 2025-06-10 v1

摘要

大型语言模型 (LLM) 驱动的多智能体系统 (MAS) 已展现出远超单个 LLM 智能体的认知与执行能力,但其自我演化能力受限于记忆架构的不成熟。深入检查后,我们惊讶地发现,现有的 MAS 记忆机制 (1) 过于简单,完全不考虑细致的智能体协作轨迹;(2) lacks 跨试验和智能体特定的定制化,与为单个智能体开发的富有表现力的记忆形成鲜明对比。在此基础上,我们引入 G-Memory,一种受组织记忆理论启发的 MAS 的层次化、智能体化记忆系统,通过三级图层次管理 MAS 长期交互:洞察图、查询图和交互图。当接收到新的用户查询时,G-Memory 执行双向记忆遍历,以检索能够实现跨试验知识积累的“高层次、可泛化洞察”,以及紧凑编码先前协作经验的“细粒度、浓缩交互轨迹”。在任务执行后,整个层次结构通过吸收新的协作轨迹来演化,培育智能体团队的渐进性发展。广泛实验在五个基准、三个 LLM 主干模型和三个流行 MAS 框架中表明,G-Memory 在具身动作成功率和知识 QA 准确率分别提升最高可达 20.89%20.89\%10.12%10.12\%,无需对原始框架进行任何修改。我们的代码已公开于 https://github.com/bingreeky/GMemory。

关键词

引用

@article{arxiv.2506.07397,
  title  = {Doubly Smoothed Optimistic Gradients: A Universal Approach for Smooth Minimax Problems},
  author = {Taoli Zheng and Anthony Man-Cho So and Jiajin Li},
  journal= {arXiv preprint arXiv:2506.07397},
  year   = {2025}
}