如何训练你的 MAML
机器学习
2019-03-07 v3 机器学习
摘要
少样本学习领域近期取得了实质性进展。这些进展大多来自将少样本学习视为元学习问题。模型无关元学习(Model Agnostic Meta Learning,MAML)目前是通过元学习进行少样本学习的最佳方法之一。MAML 简单、优雅且非常强大,然而它存在各种问题,例如对神经网络架构非常敏感,常导致训练期间不稳定,需要艰苦的超参数搜索以稳定训练并实现高泛化能力,并且在训练和推断时计算开销都很大。在本文中,我们提出对 MAML 的多种修改,不仅稳定了系统,还大幅改善了 MAML 的泛化性能、收敛速度和计算开销,我们称之为 MAML++。
引用
@article{arxiv.1810.09502,
title = {How to train your MAML},
author = {Antreas Antoniou and Harrison Edwards and Amos Storkey},
journal= {arXiv preprint arXiv:1810.09502},
year = {2019}
}
备注
Published in ICLR 2019