基于持续演化分类器的小样本增量学习
计算机视觉与模式识别
2021-04-08 v1 人工智能
机器学习
摘要
小样本类增量学习（FSCIL）旨在设计能够从少量数据点持续学习新概念且不遗忘旧类知识的机器学习算法。其难点在于，新类的有限数据不仅会导致严重的过拟合问题，还会加剧臭名昭著的灾难性遗忘问题。此外，由于训练数据在 FSCIL 中按顺序到来，所学分类器只能在各独立会话中提供判别信息，而 FSCIL 要求所有类都参与评估。本文从两个方面解决 FSCIL 问题。首先，我们采用一种简单而有效的表示与分类器解耦学习策略，即在每个增量会话中仅更新分类器，从而避免表示中的知识遗忘。由此我们证明，一个预训练骨干网络加上一个非参数类均值分类器可以击败最先进的方法。其次，为使在各会话上学习的分类器适用于所有类，我们提出一种持续演化分类器（CEC），其利用图模型在分类器之间传播上下文信息以实现适配。为支持 CEC 的学习，我们设计了一种伪增量学习范式，通过从基数据集中采样数据来周期性地构建伪增量学习任务以优化图参数。在 CIFAR100、miniImageNet 和 Caltech-USCD Birds-200-2011（CUB200）三个流行基准数据集上的实验表明，我们的方法显著优于基线，并以显著优势刷新了最先进结果。
引用
@article{arxiv.2104.03047,
title = {Few-Shot Incremental Learning with Continually Evolved Classifiers},
author = {Chi Zhang and Nan Song and Guosheng Lin and Yun Zheng and Pan Pan and Yinghui Xu},
journal= {arXiv preprint arXiv:2104.03047},
year = {2021}
}
备注
Accpeted to CVPR2021