组合ADAM：一种自适应组合求解器
机器学习
2020-04-27 v2 最优化与控制
机器学习
摘要
本文中，我们提出C-ADAM，这是首个针对涉及期望值非线性函数嵌套的组合问题的自适应求解器。我们证明C-ADAM在（其中为精度参数）内收敛到驻点。此外，我们通过首次将模型无关元学习（MAML）与组合优化联系起来，展示了我们结果的重要性，给出了迄今已知用于深度网络自适应的最快速率。最后，我们在一组来自投资组合优化与元学习的实验中验证了我们的发现。我们的结果表明，相较于标准求解器和组合求解器，样本复杂度显著降低。
引用
@article{arxiv.2002.03755,
title = {Compositional ADAM: An Adaptive Compositional Solver},
author = {Rasul Tutunov and Minne Li and Alexander I. Cowen-Rivers and Jun Wang and Haitham Bou-Ammar},
journal= {arXiv preprint arXiv:2002.03755},
year = {2020}
}