通过测试时间语义演化恢复非示例类增量学习中被遗忘的知识
计算机视觉与模式识别
2025-03-24 v1
摘要
持续学习旨在在数据流中积累知识同时缓解灾难性遗忘。在非示例类增量学习(NECIL)中，由于旧类别不可访问，增量优化过程中会发生遗忘，阻碍先验知识的保留。为解决此问题，先前的学习方法在训练阶段难以实现稳定性与可塑性的平衡。然而，我们注意到测试阶段在它们中很少被考虑，但有望成为解决遗忘的方案。因此，我们提出RoSE，即通过测试时间语义演化恢复被遗忘知识的简单而有效的方法。具体而言，RoSE是一个专门设计用于最小化遗忘的测试时间语义漂移补偿框架，能够以自监督的方式实现更精确的漂移估计。此外，为避免在线测试期间的不完整优化，我们推导了一个分析解作为梯度下降的替代方案。我们在CIFAR-100、TinyImageNet和ImageNet100数据集上评估RoSE，涵盖冷启动与热启动设置。我们的方法在各种场景下始终优于大多数最先进(SOTA)方法，验证了测试时间演化在NECIL中的潜力和可行性。
引用
@article{arxiv.2503.16793,
title = {Restoring Forgotten Knowledge in Non-Exemplar Class Incremental Learning through Test-Time Semantic Evolution},
author = {Haori Lu and Xusheng Cao and Linlan Huang and Enguang Wang and Fei Yang and Xialei Liu},
journal= {arXiv preprint arXiv:2503.16793},
year = {2025}
}