中文

构建样本到类图用于少样本类增量学习

计算机视觉与模式识别 2023-11-01 v1 人工智能

摘要

少样本类增量学习(FSCIL)旨在构建能够从少量数据样本中持续学习新概念、且不遗忘旧类知识的机器学习模型。FSCIL的挑战在于新类数据有限,这不仅导致严重的过拟合问题,还加剧了臭名昭著的灾难性遗忘问题。如早期研究所示,建立样本关系有助于从少样本中学习。本文将这一思想推广至增量场景,并提出一种用于FSCIL的样本到类(S2C)图学习方法。具体而言,我们提出一个样本级图网络(SGN),专注于分析单次会话内的样本关系。该网络有助于聚合相似样本,最终提取更精细的类级特征。然后,我们提出一个类级图网络(CGN),在旧类与新类的类级特征间建立连接。该网络在关联不同会话间的知识方面起着关键作用,并有助于提升FSCIL场景下的整体学习。此外,我们设计了一种多阶段策略来训练S2C模型,以缓解增量过程中有限数据带来的训练困难。该多阶段训练策略旨在从基类阶段到少样本阶段构建S2C图,并通过额外的伪增量阶段提升能力。在三个流行基准数据集上的实验表明,我们的方法明显优于基线,并刷新了FSCIL的SOTA结果。

关键词

引用

@article{arxiv.2310.20268,
  title  = {Constructing Sample-to-Class Graph for Few-Shot Class-Incremental Learning},
  author = {Fuyuan Hu and Jian Zhang and Fan Lyu and Linyan Li and Fenglei Xu},
  journal= {arXiv preprint arXiv:2310.20268},
  year   = {2023}
}