一种结合优化与基于度量的元学习器的小样本混合学习方法

小样本学习(few-shot learning)旨在仅利用每类少量训练样本为新类学习分类器。现有大多数小样本学习方法属于基于度量的元学习或基于优化的元学习两类,二者在简化的“$k$-shot $N$-way”图像分类设定中均取得了成功。具体地,基于优化的方法训练一个元学习器来预测任务特定分类器的参数。任务特定分类器需为同构结构以简化参数预测,因此元学习方法只能处理各类数统一的任务。基于度量的方法为所有任务学习一个任务不变的度量。尽管度量学习方法允许不同的类数,但其要求所有任务来自相似域,从而存在可跨任务生效的统一度量。本文提出一种称为 Meta-Metric-Learner 的混合元学习模型,结合了基于优化与基于度量方法的优点。我们的元度量学习方法包含两个组件:作为基模型的任务特定基于度量的学习器,以及学习并指定该基模型的元学习器。因此,我们的模型既能处理灵活的类数,又能为跨任务分类生成更具泛化性的度量。我们按先前工作在标准“$k$-shot $N$-way”小样本设定下,以及一种具有灵活类数、包含单源与多源形式的新现实小样本设定中测试了本方法。实验表明,本方法在所有设定中均取得更优性能。