通过积分二次约束对光滑博弈一阶方法的统一分析
最优化与控制
2021-04-28 v4 机器学习
机器学习
摘要
积分二次约束(IQC)理论允许证明含非线性或不确定元素的互联系统的指数收敛性。在这项工作中,我们调整IQC理论来研究光滑且强单调博弈的一阶方法,并展示如何设计定制的二次约束以获得紧致的收敛速率上界。使用该框架,我们恢复了梯度法(GD)的现有界,推导了近端点法(PPM)和乐观梯度法(OG)的更紧界,并首次给出了负动量法(NM)的全局收敛速率,其迭代复杂度为,与该法已知下界匹配。此外,对于时变系统,我们证明了具有最优步长的梯度法在二次李雅普诺夫函数下实现了可证明的最坏情况最快收敛速率。最后,我们进一步将分析扩展到随机博弈,并研究乘性噪声对不同算法的影响。我们表明,若每次批处理仅查询一次梯度,具有一步记忆的算法不可能实现加速(这与随机强凸优化设定形成对比,后者已展示出此类加速)。然而,我们给出了一种每次批处理两次梯度查询并实现加速的算法。
引用
@article{arxiv.2009.11359,
title = {A Unified Analysis of First-Order Methods for Smooth Games via Integral Quadratic Constraints},
author = {Guodong Zhang and Xuchan Bao and Laurent Lessard and Roger Grosse},
journal= {arXiv preprint arXiv:2009.11359},
year = {2021}
}
备注
Journal of Machine Learning Research