细察用于少样本图像分类的原型分类器
计算机视觉与模式识别
2022-09-16 v5 机器学习
摘要
原型网络是一种基于元学习的原型分类器,因其在元测试期间无需调整超参数、通过构建类特定原型对未见样本分类,被广泛用于少样本学习。有趣的是,近期研究引人关注,表明训练一个不使用元学习算法的新线性分类器,其性能可与原型网络相当。然而,新线性分类器的训练要求每出现新类便重新训练分类器。本文中,我们分析原型分类器如何在不训练新线性分类器或元学习的情况下同样表现良好。我们通过实验发现,在元测试中使用标准预训练模型提取的特征向量直接构建原型分类器,其表现不如原型网络及在预训练模型特征向量上训练新线性分类器。因此,我们推导了原型分类器的新泛化界,并表明特征向量的变换可提升原型分类器性能。我们通过实验探究若干归一化方法以最小化所推导界,发现使用 L2 归一化并最小化类内方差与类间方差之比,可在不训练新分类器或元学习的情况下取得相同性能。
引用
@article{arxiv.2110.05076,
title = {A Closer Look at Prototype Classifier for Few-shot Image Classification},
author = {Mingcheng Hou and Issei Sato},
journal= {arXiv preprint arXiv:2110.05076},
year = {2022}
}
备注
21 pages with 10 appendix section Our paper has been accepted in 36th Conference on Neural Information Processing Systems (NeurIPS 2022)