基于重启迭代平均的双线性博弈随机外梯度收敛性研究
最优化与控制
2022-04-11 v4 计算机科学与博弈论
机器学习
机器学习
摘要
我们研究随机双线性极小极大优化问题，对采用常数步长的同采样随机外梯度(SEG)方法进行分析，并提出该方法的若干变体以实现良好的收敛性。与基本SEG方法仅使其末次迭代收缩至纳什均衡的固定邻域形成鲜明对比的是，在相同标准设定下，结合迭代平均的SEG可被证明收敛到纳什均衡，并且通过引入调度重启过程进一步改善了该收敛速率。在噪声于纳什均衡处消失的插值设定下，我们实现了直至紧常数意义下的最优收敛速率。我们给出了数值实验以验证理论发现，并展示了配备迭代平均与重启的SEG方法的有效性。
引用
@article{arxiv.2107.00464,
title = {On the Convergence of Stochastic Extragradient for Bilinear Games using Restarted Iteration Averaging},
author = {Chris Junchi Li and Yaodong Yu and Nicolas Loizou and Gauthier Gidel and Yi Ma and Nicolas Le Roux and Michael I. Jordan},
journal= {arXiv preprint arXiv:2107.00464},
year = {2022}
}
备注
Camera-ready version appeared at AISTATS 2022; short version appeared at NeurIPS OPT 2021 Workshop