基于强预训练模型的类增量学习
计算机视觉与模式识别
2022-09-13 v2 机器学习
摘要
类增量学习（CIL）已在从少量类别（基类）开始的设定下得到广泛研究。相反，我们探索了一个研究不足的现实世界CIL设定，即从一个在大量基类上预训练的强模型开始。我们假设，一个强的基模型可以为新类别提供良好的表示，并且增量学习可以通过小的调整来完成。我们提出了一个两阶段训练方案：i) 特征增强——克隆部分骨干网络并在新数据上对其进行微调；ii) 融合——将基分类器和新分类器组合成一个统一的分类器。实验表明，所提方法在大规模ImageNet数据集上显著优于最先进的CIL方法（例如，总体准确率比最佳方法高10%）。我们还提出并分析了研究不足的实际CIL场景，例如具有分布偏移的基类-新类重叠。我们提出的方法是鲁棒的，并能泛化到所有分析的CIL设定。代码可在https://github.com/amazon-research/sp-cil获取。
引用
@article{arxiv.2204.03634,
title = {Class-Incremental Learning with Strong Pre-trained Models},
author = {Tz-Ying Wu and Gurumurthy Swaminathan and Zhizhong Li and Avinash Ravichandran and Nuno Vasconcelos and Rahul Bhotika and Stefano Soatto},
journal= {arXiv preprint arXiv:2204.03634},
year = {2022}
}
备注
Accepted at CVPR 2022, code is available at https://github.com/amazon-research/sp-cil