SynapticRAG：通过突触机制增强大语言模型中的时序记忆检索
计算与语言
2025-07-28 v2 人工智能
摘要
现有的大语言模型检索方法在处理时序分布式对话时表现下降，主要由于其依赖简单的基于相似性的检索。不同于现有的记忆检索方法仅依赖语义相似性，本文提出了 SynapticRAG，独特地将时序关联触发器与类生物学突触传递机制相结合。我们的方法使用时序关联触发器和突触样刺激传递来识别相关对话历史。随后，动态 leaky integrate-and-fire 机制用于选择最具语境适当的记忆。在四个由英语、中文和日文组成的数据集上实验显示，与最先进的记忆检索方法相比，SynapticRAG 在多个指标上实现了持续的改进，提升幅度最高可达 14.66 个百分点。这一工作填补了认知科学与语言模型发展之间的鸿沟，为对话系统的记忆管理提供了新框架。
引用
@article{arxiv.2410.13553,
title = {SynapticRAG: Enhancing Temporal Memory Retrieval in Large Language Models through Synaptic Mechanisms},
author = {Yuki Hou and Haruki Tamoto and Qinghua Zhao and Homei Miyashita},
journal= {arXiv preprint arXiv:2410.13553},
year = {2025}
}
备注
Accepted to ACL 2025 Findings