无先验平衡重放：面向长尾持续学习的不确定性引导水库采样
机器学习
2024-08-28 v1 人工智能
计算机视觉与模式识别
摘要
即使在大模型时代，持续学习 (CL) 中一个众所周知的问题是灾难性遗忘，当持续数据流呈现长尾分布时，这一问题变得尤为严峻，称为长尾持续学习 (LTCL)。现有的 LTCL 解决方案通常需要数据流的标签分布来实现再平衡训练。然而，在实际场景中获取此类先验信息通常是不可行的，因为模型应在无需预先识别多数类和少数类的情况下进行学习。为此，我们提出了一种新颖的无先验平衡重放 (PBR) 框架，以在遗忘较少的情况下从长尾数据流中学习。具体来说，受我们实验发现（即少数类由于不确定性更高而更容易被遗忘）的启发，我们新设计了一种不确定性引导的水库采样策略，以优先重放少数类数据，而无需使用任何先验信息，该策略基于模型与样本之间的相互依赖性。此外，我们引入了两个无先验组件以进一步减少遗忘问题：(1) 边界约束旨在保留不确定的边界支持样本，以持续重新估计任务边界。(2) 原型约束旨在保持训练过程中所学类原型的一致性。我们的方法在三个标准长尾基准上进行了评估，在任务增量和类增量学习设置以及有序和混洗 LTCL 设置中，均表现出优于现有 CL 方法和先前 SOTA LTCL 方法的性能。
引用
@article{arxiv.2408.14976,
title = {Prior-free Balanced Replay: Uncertainty-guided Reservoir Sampling for Long-Tailed Continual Learning},
author = {Lei Liu and Li Liu and Yawen Cui},
journal= {arXiv preprint arXiv:2408.14976},
year = {2024}
}