受神经崩塌启发的特征-分类器对齐用于少样本类增量学习
计算机视觉与模式识别
2023-02-07 v1 机器学习
摘要
少样本类增量学习（FSCIL）一直是一个具有挑战性的问题，因为在新的会话中每个新颖类仅可获取少量训练样本。微调主干网络或调整先前会话中训练得到的分类器原型，不可避免地会导致旧类的特征与分类器之间的错位，这解释了众所周知的灾难性遗忘问题。在本文中，我们受近期发现的名为神经崩塌的现象启发来处理 FSCIL 中的这一错位困境，该现象揭示同一类的最后一层特征会崩塌为一个顶点，且所有类的顶点与分类器原型相对齐，这些原型构成一个单纯形等角紧框架（ETF）。由于最大化了费舍尔判别比，这对应于一种最优的几何分类结构。我们提出了一种受神经崩塌启发的 FSCIL 框架。一组分类器原型被预分配为整个标签空间（包括基础会话和所有增量会话）的单纯形 ETF。在训练期间，分类器原型不可学习，我们采用一种新颖的损失函数将特征驱动至其相应原型。理论分析表明，我们的方法保持神经崩塌最优性，并以增量方式不破坏特征-分类器对齐。在 miniImageNet、CUB-200 和 CIFAR-100 数据集上的实验表明，我们提出的框架优于最先进的性能。代码地址：https://github.com/NeuralCollapseApplications/FSCIL
引用
@article{arxiv.2302.03004,
title = {Neural Collapse Inspired Feature-Classifier Alignment for Few-Shot Class Incremental Learning},
author = {Yibo Yang and Haobo Yuan and Xiangtai Li and Zhouchen Lin and Philip Torr and Dacheng Tao},
journal= {arXiv preprint arXiv:2302.03004},
year = {2023}
}
备注
ICLR 2023 (Notable-top-25%)