论情景式学习、原型网络与少样本学习
机器学习
2021-12-01 v2 计算机视觉与模式识别
摘要
情景式学习（episodic learning）在关注少样本学习的研究人员和从业者中是一种流行做法。它将训练组织为一系列学习问题（或情景），每个问题分为小的训练子集和验证子集，以模拟评估时遇到的情况。但这总是必要的吗？本文中，我们研究了在情景层面使用非参数方法（如最近邻）的方法中情景式学习的效用。对于这些 method，我们不仅展示了情景式学习施加的约束是不必要的，而且事实上导致了一种数据低效的训练批次利用方式。我们使用匹配网络和原型网络（两种在情景层面使用非参数方法的最流行方法）进行了广泛的消融实验。它们的“非情景式”对应方法显著更简单、超参数更少，并在多个少样本分类数据集上提升了性能。
引用
@article{arxiv.2012.09831,
title = {On Episodes, Prototypical Networks, and Few-shot Learning},
author = {Steinar Laenen and Luca Bertinetto},
journal= {arXiv preprint arXiv:2012.09831},
year = {2021}
}
备注
18 pages. To appear at NeurIPS 2021. A preliminary version of this work appeared as an oral presentation at the NeurIPS 2020 meta-learning workshop