AGDA+：用于非凸 minimax 问题的proximal交替梯度升降法及非单调自适应步长搜索

我们考虑形式为 $(P):\min_{x\in\mathcal{X}} \max_{y\in\mathcal{Y}}g(x)+f(x,y)-h(y)$ 的双正则化非凸-凹（NCSC）minimax问题，其中 $g$, $h$ 为闭凸，$f$ 对 $(x,y)$ 为 $L$-smooth 且对 $y$ 为凹函数。我们提出了一种proximal交替梯度下降升降方法 AGDA+，其可自适应选择非单调 primal-dual 步长，以计算 $(P)$ 的近似平稳点，而无需知道全局 Lipschitz 常数 $L$ 和凹性模 $mu$。通过采用非单调步长搜索（backtracking）方案，AGDA+ 能够利用局部 Lipschitz 结构，无需精确调参。AGDA+ 达到了 $\mathcal{O}(\epsilon^{-2})$ 的最优迭代复杂度，是 NCSC minimax 问题中首个每平均 backtracking 迭代仅调用 $\nabla f$ 3 次的步长搜索方法。数值实验表明其鲁棒性和效率。