中文

SB-MTL:用于跨域少样本学习的基于分数的元迁移学习

计算机视觉与模式识别 2020-12-04 v1 人工智能 机器学习

摘要

尽管许多深度学习方法在分别解决域适应与少样本学习问题时取得了显著成功,但能够联合应对跨域少样本学习(CD-FSL)中这两个问题的的方法要少得多。在典型计算机视觉应用中常见的剧烈域偏移下,该问题更为严峻。本文提出一种新颖、灵活且高效的方法来解决CD-FSL问题。我们的方法称为基于分数的元迁移学习(SB-MTL),通过结合MAML优化的特征编码器与基于分数的图神经网络,融合了迁移学习与元学习。首先,我们拥有一个设计有特定可微调层的特征编码器。为此,我们应用一阶MAML算法寻找良好初始化。其次,我们不直接采用微调后的分类分数,而是将分数解释为坐标,将softmax前的分类分数映射至度量空间。随后,我们应用图神经网络,在基于分数的度量空间中将标签信息从支持集传播至查询集。我们在更广泛的跨域少样本学习研究(BSCD-FSL)基准上测试模型,其包含一系列与miniImagenet源域差异程度各异的目标域。我们观察到在5、20和50样本下,以及四个目标域上准确率均有显著提升。在平均准确率方面,我们的模型优于先前迁移学习方法5.93%,优于先前元学习方法14.28%。

关键词

引用

@article{arxiv.2012.01784,
  title  = {SB-MTL: Score-based Meta Transfer-Learning for Cross-Domain Few-Shot Learning},
  author = {John Cai and Bill Cai and Sheng Mei Shen},
  journal= {arXiv preprint arXiv:2012.01784},
  year   = {2020}
}