少样本类增量学习研究综述
计算机视觉与模式识别
2023-10-25 v2
摘要
大型深度学习模型令人印象深刻，但在无法获取实时数据时表现不佳。少样本类增量学习（FSCIL）对深度神经网络提出了重大挑战：仅从少量标注样本中学习新任务，同时不遗忘先前已学的任务。这种设定容易导致灾难性遗忘与过拟合问题，严重损害模型性能。研究 FSCIL 有助于克服深度学习模型在数据量与获取时间上的局限，同时提升机器学习模型的实用性与适应性。本文对 FSCIL 进行了全面综述。与以往综述不同，我们旨在综合少样本学习与增量学习，侧重于从两个视角介绍 FSCIL，同时回顾了 30 余篇理论研究文献与 20 余篇应用研究文献。从理论视角，我们提出了一种新颖的分类方法，将该领域划分为五个子类，包括传统机器学习方法、基于元学习的方法、基于特征与特征空间的方法、基于回放的方法以及基于动态网络结构的方法。我们还在 FSCIL 基准数据集上评估了近期理论研究的性能。从应用视角，FSCIL 已在计算机视觉的多个领域（如图像分类、目标检测与图像分割）以及自然语言处理和图领域取得令人瞩目的成果。我们总结了重要应用。最后，我们指出了潜在的未来研究方向，包括应用、问题设定与理论发展。总体而言，本文从方法、性能与应用视角对 FSCIL 的最新进展进行了全面分析。
引用
@article{arxiv.2304.08130,
title = {A Survey on Few-Shot Class-Incremental Learning},
author = {Songsong Tian and Lusi Li and Weijun Li and Hang Ran and Xin Ning and Prayag Tiwari},
journal= {arXiv preprint arXiv:2304.08130},
year = {2023}
}