深入探究基类-新类混淆：少样本类增量学习中的冗余探索
计算机视觉与模式识别
2024-05-09 v1 人工智能
摘要
少样本类增量学习（FSCIL）旨在利用有限样本获取新类知识，同时保留基类信息。现有方法通过在新类学习期间冻结特征提取器来解决灾难性遗忘与过拟合问题。然而，这些方法通常容易导致基类与新类之间的混淆，即将新类样本分类为基类。在本文中，我们深入探究这一现象以研究其原因与解决方案。我们首先将这种混淆解释为特征空间中新类与基类区域的碰撞。然后，我们发现该碰撞是由基类特征空间与像素空间内与标签无关的冗余引起的。通过定性与定量实验，我们确认这种冗余是基类训练中的捷径，可以通过解耦来缓解碰撞。基于此分析，为缓解基类与新类之间的碰撞，我们提出了一种名为冗余解耦与集成（RDI）的 FSCIL 方法。RDI 首先从基类空间中解耦冗余以缩小类内特征空间。然后，它将冗余集成为一个虚拟类以扩大类间特征空间。这一过程有效压缩了基类特征空间，为新类创造了缓冲空间，并缓解了模型在基类与新类之间的混淆。在包括 CIFAR-100、miniImageNet 和 CUB-200-2011 在内的基准数据集上的大量实验表明，我们的方法实现了 SOTA 性能。
引用
@article{arxiv.2405.04918,
title = {Delve into Base-Novel Confusion: Redundancy Exploration for Few-Shot Class-Incremental Learning},
author = {Haichen Zhou and Yixiong Zou and Ruixuan Li and Yuhua Li and Kui Xiao},
journal= {arXiv preprint arXiv:2405.04918},
year = {2024}
}