OrCo：通过正交性与对比学习实现小样本类增量学习的更好泛化
计算机视觉与模式识别
2024-03-28 v1
摘要
小样本类增量学习（FSCIL）引入了一种问题空间随有限数据扩展的范式。随着数据增量到达，FSCIL 方法固有地面临灾难性遗忘的挑战，使得模型容易覆盖先前获取的知识。此外，鉴于在任何给定时间可用的标注样本稀缺，模型可能倾向于过拟合，并发现难以在广泛的预训练与有限的增量数据之间取得平衡。为应对这些挑战，我们提出了基于两个核心原则的 OrCo 框架：表示空间中特征的正交性，以及对比学习。特别地，我们在预训练阶段通过结合监督与自监督对比损失来改进嵌入空间的泛化能力。此外，我们引入 OrCo 损失以解决增量会话期间因数据限制而产生的挑战。通过特征空间扰动和类间正交性，OrCo 损失最大化间隔并为后续增量数据预留空间。这进而确保了传入类别在特征空间中的容纳，而不损害先前获取的知识。我们的实验结果在三个基准数据集（包括 mini-ImageNet、CIFAR100 和 CUB 数据集）上展示了最先进的性能。代码开源在 https://github.com/noorahmedds/OrCo。
引用
@article{arxiv.2403.18550,
title = {OrCo: Towards Better Generalization via Orthogonality and Contrast for Few-Shot Class-Incremental Learning},
author = {Noor Ahmed and Anna Kukleva and Bernt Schiele},
journal= {arXiv preprint arXiv:2403.18550},
year = {2024}
}