针对全谱系博弈的基于梯度方法的紧致统一分析
机器学习
2020-07-08 v5 最优化与控制
机器学习
摘要
我们考虑目标是寻找纳什均衡的可微博弈。机器学习社区最近开始使用梯度方法 (GD) 的变体。主要例子包括额外梯度 (EG)、乐观梯度方法 (OG) 和共识优化 (CO)，它们在标准 GD 失败的双线性博弈等情形中享有线性收敛性。由于缺乏对强单调博弈和双线性博弈的统一分析，这些相对较新方法的全部益处尚不为人所知。我们提供了对 EG 局部和全局收敛性质的新分析，并利用它得到了 OG 和 CO 更紧致的全局收敛速率。我们的分析涵盖了双线性博弈和强单调博弈之间的所有设置范围。它揭示了这些方法在这些极端情况下通过不同的机制收敛；在中间状态下，它为给定问题利用最有利的机制。然后我们证明，对于具有任意外推步数的广泛算法类别，EG 达到了最优速率。我们对博弈中 EG 收敛速率的紧致分析表明，与凸最小化不同，EG 可能比 GD 快得多。
引用
@article{arxiv.1906.05945,
title = {A Tight and Unified Analysis of Gradient-Based Methods for a Whole Spectrum of Games},
author = {Waïss Azizian and Ioannis Mitliagkas and Simon Lacoste-Julien and Gauthier Gidel},
journal= {arXiv preprint arXiv:1906.05945},
year = {2020}
}
备注
Appears in: Proceedings of the 23rd International Conference on Artificial Intelligence and Statistics (AISTATS 2020). 39 pages. Minor modification regarding prior work in comparison to the AISTATS Proceedings