将域漂移变为类递增学习中的灾难性遗忘缓解器
计算机视觉与模式识别
2025-01-03 v1 机器学习
摘要
在类递增学习 (CIL) 领域，缓解灾难性遗忘问题是关键挑战。本文发现了一个反直觉观察：通过将域漂移纳入 CIL 任务，可显著降低遗忘率。我们的全面研究表明，引入域漂移导致任务之间特征分布的分离度更清晰，有助于减少学习过程中参数的干扰。鼓舞于此观察，我们提出一种简单且有效的方法，称为 DisCo 来处理 CIL 任务。DisCo 引入一个轻量级原型池，利用对比学习来促进当前任务相对于之前任务的特征分布具有更大的区别，从而有效缓解跨任务间的干扰。DisCo 可以轻松集成到现有的先进类递增学习方法中。实验结果表明，将该方法集成到各种 CIL 方法中均可实现显著的性能提升，验证了该方法在通过分离特征表示和减少干扰来增强类递增学习方面的优势。这些发现表明，DisCo 可作为未来类递增学习研究的稳健方式。
引用
@article{arxiv.2501.00237,
title = {Make Domain Shift a Catastrophic Forgetting Alleviator in Class-Incremental Learning},
author = {Wei Chen and Yi Zhou},
journal= {arXiv preprint arXiv:2501.00237},
year = {2025}
}
备注
Accepted as poster paper of AAAI2025