少样本学习仍需要嵌入自适应
机器学习
2021-04-16 v1 计算机视觉与模式识别
摘要
构建新颖且更具挑战性的任务集是分析和理解少样本分类方法的有效方法。遗憾的是,现有构建这些任务集的方法不尽如人意:它们要么假设训练与测试任务分布相同——这导致过于乐观的评估——要么采取“最坏情况”思路——这通常需要额外的人力,例如获取语义类别关系。我们提出 ATG,一种无需额外人类知识即可定义训练与测试任务集的原则性聚类方法。ATG 对训练与测试任务分布建模,同时要求它们共享预定义数量的信息。我们通过实证证明了 ATG 在生成比现有基准(包括依赖语义信息的基准)更易、居中或更难的任务集上的有效性。最后,我们利用生成的任务集重新审视少样本分类:在迁移最具挑战性时,先前被认为表现不佳的基于梯度的方法可以优于基于度量的方法。
引用
@article{arxiv.2104.07255,
title = {Embedding Adaptation is Still Needed for Few-Shot Learning},
author = {Sébastien M. R. Arnold and Fei Sha},
journal= {arXiv preprint arXiv:2104.07255},
year = {2021}
}
备注
In submission