在统一少样本分类基准上比较迁移与元学习方法
机器学习
2021-04-07 v1 计算机视觉与模式识别
摘要
元学习与迁移学习是少样本学习的两类成功方法族。尽管目标高度相关，但各方法族中最先进的进展很大程度上是在彼此隔离的情况下衡量的。由于评估规范的差异，不同方法之间的直接或彻底比较具有挑战性。为弥合这一差距，我们在大规模元学习基准（Meta-Dataset, MD）和迁移学习基准（Visual Task Adaptation Benchmark, VTAB）上，对最佳迁移学习器和最佳元学习器进行了跨方法族研究。我们发现，平均而言，大规模迁移方法（Big Transfer, BiT）在MD上优于竞争方法，即使仅在ImageNet上训练也是如此。相反，当在MD上训练和验证时，元学习方法难以在VTAB上竞争。然而，BiT并非没有局限，且推动规模扩大并不能改善在高度分布外MD任务上的性能。在进行本研究时，我们揭示了评估规范中的若干差异，并依据性能差距对其中的部分进行了研究。我们希望本工作能促进各社群间见解的共享，并加速少样本学习的进展。
引用
@article{arxiv.2104.02638,
title = {Comparing Transfer and Meta Learning Approaches on a Unified Few-Shot Classification Benchmark},
author = {Vincent Dumoulin and Neil Houlsby and Utku Evci and Xiaohua Zhai and Ross Goroshin and Sylvain Gelly and Hugo Larochelle},
journal= {arXiv preprint arXiv:2104.02638},
year = {2021}
}