广义内循环元学习
机器学习
2019-10-08 v2 机器学习
摘要
深度学习和强化学习中许多（但非全部）自诩为“元学习”的方法契合一种常见模式，即近似求解一个嵌套优化问题。在本文中，我们形式化了这一共享模式，称之为 GIMLI，证明其一般要求，并推导出一种用于实现类似方法的通用算法。基于该分析与算法，我们描述了一个我们设计的库 higher，并与学界共享以协助并赋能未来关于此类元学习方法的研究。我们以展示该框架与库通过其所促成的 illustrative 实验与消融研究得到的实际应用来结束本文。
引用
@article{arxiv.1910.01727,
title = {Generalized Inner Loop Meta-Learning},
author = {Edward Grefenstette and Brandon Amos and Denis Yarats and Phu Mon Htut and Artem Molchanov and Franziska Meier and Douwe Kiela and Kyunghyun Cho and Soumith Chintala},
journal= {arXiv preprint arXiv:1910.01727},
year = {2019}
}
备注
17 pages, 3 figures, 1 algorithm