面向少样本模型无关元学习的自适应伪标签生成方法
机器学习
2022-07-12 v1 人工智能
摘要
模型无关元学习 (Model-Agnostic Meta-Learning, MAML) 是一种著名的少样本学习方法，启发了许多后续工作，如 ANIL 和 BOIL。然而，作为一种归纳式方法，MAML 无法充分利用查询集的信息，限制了其获得更高泛化能力的潜力。为解决此问题，我们提出一种简单而有效的方法，可自适应生成伪标签并提升 MAML 系列的性能。所提出的方法称为基于生成式伪标签的 MAML (GP-MAML)、GP-ANIL 和 GP-BOIL，利用查询集的统计信息来提升在新任务上的性能。具体而言，我们自适应地添加伪标签并从查询集中挑选样本，然后使用挑选的查询样本与支持集一起重新训练模型。GP 系列还可以在元测试期间利用伪查询集的信息重新训练网络。而一些转导式方法，如转导传播网络 (Transductive Propagation Network, TPN)，难以实现这一目标。
引用
@article{arxiv.2207.04217,
title = {Generating Pseudo-labels Adaptively for Few-shot Model-Agnostic Meta-Learning},
author = {Guodong Liu and Tongling Wang and Shuoxi Zhang and Kun He},
journal= {arXiv preprint arXiv:2207.04217},
year = {2022}
}
备注
13 pages, 2 Figures