RAG 还是学习？理解 LLM 在真实世界中连续知识漂移下的适应极限
计算与语言
2026-04-16 v2
摘要
大型语言模型（LLMs）的大部分知识在预训练期间获取，这使它们绑定于世界的固定快照，并使其难以适应持续演化的知识。随着事实、实体和事件随时间变化，模型可能经历连续知识漂移，导致不仅预测过时，还出现时间不一致的推理。尽管现有方法，如持续微调、知识编辑和检索增强生成（RAG），旨在更新或补充模型知识，但它们很少在反映时间顺序、演化和真实世界知识演化的设置中进行评估。在本文中，我们引入了一个基于真实世界动态事件的新基准，该基准由时间戳证据构建，捕捉知识如何随时间演化，从而实现对连续知识漂移下模型适应的系统性评估。该基准揭示，大多数现有方法，包括 vanilla RAG 和多种基于学习的方法，在这种设置下表现不佳，暴露出灾难性遗忘和时间不一致性等关键局限。为缓解这些局限，我们提出了一种时间感知检索基线 Chronos，它通过将检索到的证据逐步组织为事件演化图，使 LLM 能够实现更时间一致的理解，而无需额外训练。总体而言，本工作为分析和推进 LLM 在真实设置下对连续知识漂移的适应奠定了基础。
引用
@article{arxiv.2604.05096,
title = {RAG or Learning? Understanding the Limits of LLM Adaptation under Continuous Knowledge Drift in the Real World},
author = {Hanbing Liu and Lang Cao and Yang Li},
journal= {arXiv preprint arXiv:2604.05096},
year = {2026}
}