极小极大优化中交替梯度下降-上升的近最优局部收敛
机器学习
2022-02-15 v3 最优化与控制
机器学习
摘要
光滑极小极大博弈通常通过同时或交替梯度更新进行。尽管具有交替更新的算法在实践中常用，现有多数理论分析为方便起见聚焦于同时算法。本文中，我们研究极小极大博弈中的交替梯度下降-上升（Alt-GDA），并表明 Alt-GDA 在许多设定下优于其同时对应算法（Sim-GDA）。我们证明 Alt-GDA 对强凸-强凹（SCSC）问题实现了近最优局部收敛速率，而 Sim-GDA 收敛得慢得多。据我们所知，这是任何设定下表明 Alt-GDA 比 Sim-GDA 快不止一个常数的首个结果。我们进一步适配积分二次约束（IQC）理论，表明 Alt-GDA 对一类 SCSC 极小极大问题在全局达到相同速率。在实验上，我们证明交替更新显著加速 GAN 训练，而乐观性仅对同时算法有帮助。
引用
@article{arxiv.2102.09468,
title = {Near-optimal Local Convergence of Alternating Gradient Descent-Ascent for Minimax Optimization},
author = {Guodong Zhang and Yuanhao Wang and Laurent Lessard and Roger Grosse},
journal= {arXiv preprint arXiv:2102.09468},
year = {2022}
}
备注
AISTATS 2022