NC-PL条件下随机极小极大优化问题随机SGDA的收敛性分析
最优化与控制
2023-07-27 v1
摘要
我们引入一个新的分析框架,以分析随机随机梯度下降上升(RSGDA)算法在随机极小极大优化问题上的收敛性。在其中一个变量满足所谓NC-PL条件下,我们的分析改进了当前文献中最先进的收敛结果,从而拓宽了RSGDA的适用范围。我们还引入一种简单而有效的策略来加速RSGDA,并在合成数据与真实数据上实证验证了其效率。
引用
@article{arxiv.2307.13880,
title = {Convergence Analysis of Randomized SGDA under NC-PL Condition for Stochastic Minimax Optimization Problems},
author = {Zehua Liu and Zenan Li and Xiaoming Yuan and Yuan Yao},
journal= {arXiv preprint arXiv:2307.13880},
year = {2023}
}