约束少样本类增量学习
计算机视觉与模式识别
2022-04-01 v1 机器学习
摘要
持续从新数据中学习新类而不遗忘旧类先前知识是一个极具挑战的研究问题。此外,此类学习必须遵循某些内存与计算约束:(i)每类训练样本仅限少数几个,(ii)学习新类的计算成本保持恒定,(iii)模型内存占用随观测类数至多线性增长。为满足上述约束,我们提出C-FSCIL,其架构由冻结的元学习特征提取器、可训练的定长全连接层,以及存储与已遇类数等量向量的可重写动态增长内存组成。C-FSCIL提供三种更新模式,在学习新类的精度与计算-内存成本间权衡。C-FSCIL利用超维嵌入,以最小干扰在向量空间中持续表达远多于固定维度的类。通过新颖损失函数将类向量表示准正交对齐,进一步提升其质量。在CIFAR100、miniImageNet和Omniglot数据集上的实验表明,C-FSCIL以显著精度与压缩率优于基线。它还在该少样本设置下扩展到迄今最大问题规模:在1200个基类之上学习423个新类,精度下降小于1.6%。代码见https://github.com/IBM/constrained-FSCIL。
引用
@article{arxiv.2203.16588,
title = {Constrained Few-shot Class-incremental Learning},
author = {Michael Hersche and Geethan Karunaratne and Giovanni Cherubini and Luca Benini and Abu Sebastian and Abbas Rahimi},
journal= {arXiv preprint arXiv:2203.16588},
year = {2022}
}
备注
CVPR 2022 camera-ready version