基于原始知识原型补全的小样本学习
计算机视觉与模式识别
2021-06-25 v6
摘要
小样本学习是一项具有挑战性的任务,旨在利用少量样本为新颖类别学习分类器。基于预训练的元学习方法通过预训练特征提取器并随后通过基于最近质心的元学习对其进行微调,有效解决了该问题。然而,结果显示微调步骤带来的改进非常有限。在本文中,1)我们指出了关键原因,即在预训练特征空间中,基类别已经形成紧凑的簇,而新颖类别则作为具有大方差的组分散开,这意味着微调特征提取器意义不大;2)我们转而关注在元学习期间估计更具代表性的原型,而非微调特征提取器。因此,我们提出了一种新颖的基于原型补全的元学习框架。该框架首先引入原始知识(即类别级部件或属性标注)并提取代表性属性特征作为先验。然后,我们设计了一个原型补全网络,以利用这些先验学习补全原型。为避免由原始知识噪声或类别差异引起的原型补全误差,我们进一步开发了一种基于高斯的原型融合策略,通过利用无标签样本将基于均值与原型补全的原型相结合。大量实验表明,我们的方法:(i)能获得更准确的原型;(ii)在分类准确率上优于最先进技术(SOTA)2% - 9%。我们的代码已在线提供。
引用
@article{arxiv.2009.04960,
title = {Prototype Completion with Primitive Knowledge for Few-Shot Learning},
author = {Baoquan Zhang and Xutao Li and Yunming Ye and Zhichao Huang and Lisai Zhang},
journal= {arXiv preprint arXiv:2009.04960},
year = {2021}
}
备注
Accepted by CVPR2021