少样本少样本学习及空间注意力的作用
计算机视觉与模式识别
2020-02-19 v1
摘要
少样本学习常以人类能从少量示例中学习新任务的能力为动机。然而，标准的少样本分类基准假设表示是在有限量的基类数据上学习的，忽略了人类在学习新任务前可能已积累的先验知识量。同时，即便可获得强大的表示，在某些领域中也可能出现基类数据有限或不存在的情况。这促使我们研究如下问题：表示来自一个在不同领域大规模数据集上预训练的分类器，且假设无法访问其训练过程，而基类数据每类仅限于少量示例，其作用是将表示适配到当前领域而非从零学习。我们分两个阶段适配表示，即（若有）在少量基类数据上，以及在更少的新任务数据上。在此过程中，我们从预训练分类器获得空间注意力图，从而能够聚焦于物体并抑制背景杂波。这在新的问题中很重要，因为当基类数据很少时，网络无法隐式地学习应聚焦于何处。我们还表明，预训练网络可以轻松适配到新类别，无需元学习。
引用
@article{arxiv.2002.07522,
title = {Few-Shot Few-Shot Learning and the role of Spatial Attention},
author = {Yann Lifchitz and Yannis Avrithis and Sylvaine Picard},
journal= {arXiv preprint arXiv:2002.07522},
year = {2020}
}