ES-MAML：简单的无Hessian元学习
机器学习
2020-07-08 v4 人工智能
神经与进化计算
机器人学
最优化与控制
机器学习
摘要
我们引入ES-MAML，一种基于进化策略（ES）解决模型无关元学习（MAML）问题的新框架。现有的MAML算法基于策略梯度，在随机策略上使用反向传播估计二阶导数时面临显著困难。我们展示了如何将ES应用于MAML，从而获得一种避免估计二阶导数问题且概念简单、易于实现的算法。此外，ES-MAML可处理新型非光滑适应算子，且其他用于提升ES方法性能与估计的技术也变得适用。我们通过实证表明，ES-MAML与现有方法具有竞争力，且常以更少查询实现更好的适应。
引用
@article{arxiv.1910.01215,
title = {ES-MAML: Simple Hessian-Free Meta Learning},
author = {Xingyou Song and Wenbo Gao and Yuxiang Yang and Krzysztof Choromanski and Aldo Pacchiano and Yunhao Tang},
journal= {arXiv preprint arXiv:1910.01215},
year = {2020}
}
备注
Published as a conference paper in ICLR 2020. Code can be found in http://github.com/google-research/google-research/tree/master/es_maml