通过植入与压缩实现增量小样本学习
计算机视觉与模式识别
2022-04-08 v2
摘要
本文聚焦于解决增量小样本学习这一具有挑战性但现实的视觉任务。该任务要求模型仅从少量样本中持续学习新类别，同时不遗忘其预训练时所基于的基类。我们的研究揭示，增量小样本学习的挑战在于类间分离和新类表示两个方面。由于类内差异，一个新类可能隐式地利用多个基类的知识来构建其特征表示。因此，简单地重用预训练的嵌入空间可能导致分散的特征分布，并造成类别混淆。为解决这些问题，我们提出了一种称为植入与压缩的两步学习策略，该策略以系统化的方式优化特征空间划分和新类重建。具体来说，在植入步骤中，我们提出借助数据丰富的基类集来模拟新类的数据分布，从而使模型能够学习到语义丰富的特征，这些特征有利于区分基类和其他未见过的类。在压缩步骤中，我们调整特征提取器以精确表示每个新类，从而增强类内紧凑性，同时采用正则化参数更新规则以防止模型过度更新。最后，我们证明，无论是在图像分类任务还是更具挑战性的目标检测任务中，IMCO 都以显著优势超越了竞争基线。
引用
@article{arxiv.2203.10297,
title = {Incremental Few-Shot Learning via Implanting and Compressing},
author = {Yiting Li and Haiyue Zhu and Xijia Feng and Zilong Cheng and Jun Ma and Cheng Xiang and Prahlad Vadakkepat and Tong Heng Lee},
journal= {arXiv preprint arXiv:2203.10297},
year = {2022}
}