极小极大问题中有乐观与锚定机制的随机梯度方法的常微分方程分析
机器学习
2020-10-13 v3 机器学习
摘要
尽管生成对抗网络(GAN)在经验上取得了显著成功,其训练动力学——即利用随机梯度求解极小极大博弈——仍鲜为人知。在本工作中,我们在凸-凹假设下,借助微分方程连续时间分析,研究了同步梯度下降(simGD)及其变体的末次迭代收敛性。首先,我们证明 simGD 本身在原始变量严格凸的条件下,使用随机次梯度即可收敛。其次,我们将乐观同步梯度下降推广到允许乐观率独立于学习率,并证明其在全梯度下的收敛性。最后,我们提出一种新方法——锚定同步梯度下降,并证明其在随机次梯度下的收敛性。
引用
@article{arxiv.1905.10899,
title = {ODE Analysis of Stochastic Gradient Methods with Optimism and Anchoring for Minimax Problems},
author = {Ernest K. Ryu and Kun Yuan and Wotao Yin},
journal= {arXiv preprint arXiv:1905.10899},
year = {2020}
}