用于随机非凸-强凹极小极大问题的随机递归梯度下降上升算法

我们考虑形式为 $\min_{\bf x}\max_{\bf y\in{\mathcal Y}} f({\bf x},{\bf y})$ 的非凸-凹极小极大优化问题，其中 $f$ 关于 $\bf y$ 强凹，但关于 $\bf x$ 可能非凸，且 ${\mathcal Y}$ 是凸紧集。我们关注随机设定，即每次迭代只能获取 $f$ 的无偏随机梯度估计。该形式包含许多机器学习应用作为特例，如鲁棒优化和对抗训练。我们感兴趣的是找到函数 $\Phi(\cdot)=\max_{\bf y\in{\mathcal Y}} f(\cdot, {\bf y})$ 的 ${\mathcal O}(\varepsilon)$-平稳点。求解该问题最流行的算法是随机梯度下降上升，其需要 $\mathcal O(\kappa^3\varepsilon^{-4})$ 次随机梯度评估，其中 $\kappa$ 为条件数。本文提出一种称为随机递归梯度下降上升（SREDA）的新方法，利用方差缩减更有效地估计梯度。该方法达到了已知的 best 随机梯度复杂度 ${\mathcal O}(\kappa^3\varepsilon^{-3})$，且其关于 $\varepsilon$ 的依赖性对该问题是最优的。