约束鞍点优化中的线性末次迭代收敛
机器学习
2021-03-23 v3 计算机科学与博弈论
机器学习
摘要
Optimistic Gradient Descent Ascent（OGDA，乐观梯度下降上升）与 Optimistic Multiplicative Weights Update（OMWU，乐观乘性权重更新）用于鞍点优化，因其良好的末次迭代收敛性而受到越来越多的关注。然而，它们在概率单纯形上的简单双线性博弈中的行为仍未被完全理解——先前的分析缺乏显式收敛速率，仅适用于指数级小的学习率，或需要如最优解唯一性等额外假设。在本工作中，我们显著拓展了对约束设定下 OGDA 与 OMWU 末次迭代收敛的理解。具体而言，对于单纯形上双线性博弈中的 OMWU，我们表明当均衡唯一时，以设为普适常数的学习率可实现线性末次迭代收敛，在相同假设下改进了（Daskalakis & Panageas, 2019b）的结果。随后，我们通过引入一个充分条件，将结果显著推广到投影 OGDA 算法更一般的目标准则与可行集，在该条件下 OGDA 以仅依赖于目标函数光滑度的常数学习率展现出具体的末次迭代收敛速率。我们表明任意多面体上的双线性博弈满足该条件，且即使无唯一均衡假设 OGDA 也指数级快速收敛。我们的条件对强凸-强凹函数也成立，恢复了（Hsieh et al., 2019）的结果。最后，我们提供实验结果以进一步支撑我们的理论。
引用
@article{arxiv.2006.09517,
title = {Linear Last-iterate Convergence in Constrained Saddle-point Optimization},
author = {Chen-Yu Wei and Chung-Wei Lee and Mengxiao Zhang and Haipeng Luo},
journal= {arXiv preprint arXiv:2006.09517},
year = {2021}
}