MAML目标函数何时具有良性景观?
机器学习
2020-12-14 v2 最优化与控制
机器学习
摘要
本文研究了模型无关元学习(Model-Agnostic Meta-Learning, MAML)算法背后优化问题的复杂性。研究目标是确定MAML在具有共同结构的序列决策任务上的全局收敛性。我们好奇的是,若确实存在,底层任务的良性景观何时会导致相应MAML目标函数的良性景观。作为示例,我们分析了MAML目标函数在LQR任务上的景观,以确定其结构中的何种相似性使算法能够收敛到全局最优解。
引用
@article{arxiv.2006.00453,
title = {When Does MAML Objective Have Benign Landscape?},
author = {Igor Molybog and Javad Lavaei},
journal= {arXiv preprint arXiv:2006.00453},
year = {2020}
}
备注
12 pages, 3 figures