极小极大优化的对偶加速：松弛假设下的线性收敛

本文研究双线性耦合的极小极大优化问题：$\min_{x \in \mathbb{R}^{d_x}}\max_{y \in \mathbb{R}^{d_y}} \ f_1(x) + f_2(x) + y^{\top} Bx - g_1(y) - g_2(y)$，其中 $f_1$ 和 $g_1$ 是光滑凸函数，$f_2$ 和 $g_2$ 是可能非光滑的凸函数，$B$ 是耦合矩阵。现有求解该问题的算法仅在较强条件下才能实现线性收敛，而这些条件在许多场景中可能无法满足。我们首先引入原始-对偶近端梯度（PDPG）方法，并证明其在一个现有算法无法实现线性收敛的假设下能够线性收敛。基于对现有算法和PDPG收敛条件分析所获得的洞见，我们进一步提出了非精确对偶加速近端梯度（iDAPG）方法。该方法在比现有方法所需条件更弱的条件下实现了线性收敛。此外，即使在现有方法能保证线性收敛的情况下，iDAPG在某些场景下仍能提供更优的理论性能。