PASS++：用于非样本类递增学习的双偏差减少框架
计算机视觉与模式识别
2024-07-22 v1 机器学习
摘要
类递增学习(CIL)旨在在保持旧类的判别性的同时逐步识别新类。大多数现有CIL方法基于样本，即存储旧数据的一部分进行再训练。缺乏对旧数据的重学习，使得这些方法受到灾难性遗忘。本文发现CIL中存在两个内在问题，即表示偏差和分类器偏差，导致旧知识的灾难性遗忘。为解决这两个偏差，我们提出一种简单且新颖的双偏差减少框架，在输入空间中采用自监督变换(SST)，在深度特征空间中采用原型增强(protoAug)。一方面，SST通过学习可跨任务迁移的通用和多样表示来缓解表示偏差。另一方面，protoAug通过在深度特征空间中显式或隐式地增强旧类的原型，从而对维护先前学习的决策边界施加更严格的约束。我们进一步提出硬度感知原型增强和多视图集成策略，显著提高了性能。该方法可以轻松集成到预训练模型中。无需存储旧类的任何样本，本方法可与存储大量旧数据的数据驱动方法相当。我们希望通过重新思考CIL中存储旧样本的必要性来引起研究者对非样本CIL的关注。
引用
@article{arxiv.2407.14029,
title = {PASS++: A Dual Bias Reduction Framework for Non-Exemplar Class-Incremental Learning},
author = {Fei Zhu and Xu-Yao Zhang and Zhen Cheng and Cheng-Lin Liu},
journal= {arXiv preprint arXiv:2407.14029},
year = {2024}
}