求解非凸极小极大问题的双时间尺度梯度下降-上升动力学收敛速率
最优化与控制
2021-12-20 v1 计算机科学与博弈论
机器学习
摘要
由于在非凸极小极大优化问题在机器学习、网络资源分配和分布式优化等诸多领域的广泛应用，近期对其求解的兴趣大增。或许，求解极小极大优化最流行的的一阶方法是所谓的同时（或单循环）梯度下降-上升算法，因其实现简单。然而，该算法的收敛理论保证极少，因为它即便在简单双线性问题上也可能发散。本文重点刻画该同时梯度下降-上升算法连续时间变体的有限时间性能（或收敛速率）。具体地，我们在目标函数的若干不同条件下推导了该方法的收敛速率，即双侧 Polyak-Łojasiewicz（PL）、单侧 PL、非凸-强凹以及强凸-非凹条件。我们的收敛结果在相同目标函数条件下改进了已有工作的结果。我们分析的关键思想是利用经典奇异扰动理论与耦合 Lyapunov 函数，以应对梯度下降与上升动力学间的时间尺度差异与相互作用。我们关于连续时间算法行为的结果可用于增强其离散时间对应算法的收敛性质。
引用
@article{arxiv.2112.09579,
title = {Convergence Rates of Two-Time-Scale Gradient Descent-Ascent Dynamics for Solving Nonconvex Min-Max Problems},
author = {Thinh T. Doan},
journal= {arXiv preprint arXiv:2112.09579},
year = {2021}
}