面向在线学习的检索增强记忆
机器学习
2025-12-03 v1
摘要
检索增强模型将参数化预测器与非参数记忆耦合，但其在具有概念漂移的流式监督学习中应用尚不明了。我们研究非平稳环境下的在线分类，提出检索增强记忆用于在线学习(RAM-OL)，这是一种随机梯度下降的简单扩展，维护一小缓冲区保存过去的示例。在每个时间步，RAM-OL检索当前输入在隐藏表示空间中最近的几个邻居，并在当前示例和检索到的邻居上联合更新模型。我们比较了naive重放变体和带时间窗口、相似性阈值和梯度重新加权的gated重放变体，以平衡相关过去数据的快速重用与对过时范式的鲁棒性。从理论角度，我们在有界漂移模型下解释RAM-OL，讨论检索如何在模式周期性出现时降低适应成本并改善 regret常数。实验上，我们在简单的在线多层感知器上实例化RAM-OL，并在电价、电力负荷和航班延误数据等三个真实数据流上进行评估。在强烈周期漂移的数据流上，RAM-OL将准确率提高最高约7个百分点，并大幅降低随机种子间的方差；在噪声航班延误数据流上，gated变体几乎与纯在线基线相当。这些结果表明，检索增强记忆是面向概念漂移的在线学习的实用且稳健的工具。
引用
@article{arxiv.2512.02333,
title = {Retrieval-Augmented Memory for Online Learning},
author = {Wenzhang Du},
journal= {arXiv preprint arXiv:2512.02333},
year = {2025}
}
备注
11 pages, 3 figures