Cut out and Replay：一种用于多标签在线持续学习的简单而通用的策略
机器学习
2025-05-27 v1
摘要
多标签在线持续学习 (MOCL) 要求模型从无尽的多标签数据流中持续学习，面临着持久的灾难性遗忘、潜在的标签缺失以及不可控的类别分布不平衡等复杂挑战。尽管现有的 MOCL 方法试图通过各种技术应对这些挑战，但\textit{它们都忽略了标签特定区域的识别与特征学习}——这是一种根植于多标签学习中的基础解决方案，但在具有增量和部分监督的在线设置中难以实现。为此，我们首先利用输入数据的内在结构信息来评估并验证不同预训练模型的固有定位能力。然后，我们提出 CUTER (CUT-out-and-Experience-Replay)，一种简单而通用的策略，通过进一步识别、强化并切出标签特定区域以进行高效经验回放，从而提供细粒度的监督信号。它不仅使模型能够同时应对灾难性遗忘、标签缺失和类别不平衡的挑战，而且作为一种正交解决方案，可与现有方法无缝集成。在多个多标签图像基准上的大量实验证明了所提方法的优越性。代码可在 \href{https://github.com/wxr99/Cut-Replay}{https://github.com/wxr99/Cut-Replay} 获取
引用
@article{arxiv.2505.19680,
title = {Cut out and Replay: A Simple yet Versatile Strategy for Multi-Label Online Continual Learning},
author = {Xinrui Wang and Shao-yuan Li and Jiaqiang Zhang and Songcan Chen},
journal= {arXiv preprint arXiv:2505.19680},
year = {2025}
}
备注
accepted by ICML 2025