针对强凸-强凹复合鞍点问题具有复杂度分离的最优算法

在这项工作中，我们关注如下鞍点问题 $\min_x \max_y p(x) + R(x,y) - q(y)$，其中 $R(x,y)$ 是 $L_R$-光滑、$\mu_x$-强凸、$\mu_y$-强凹的，且 $p(x), q(y)$ 分别是凸且 $L_p, L_q$-光滑的。我们提出一种新算法，其具有最优总复杂度 $\mathcal{O}\left(\left(\sqrt{\frac{L_p}{\mu_x}} + \frac{L_R}{\sqrt{\mu_x \mu_y}} + \sqrt{\frac{L_q}{\mu_y}}\right)\log \frac{1}{\varepsilon}\right)$ 以及在复合部分与鞍点部分中预言机调用的分离。该算法需要 $\mathcal{O}\left(\left(\sqrt{\frac{L_p}{\mu_x}} + \sqrt{\frac{L_q}{\mu_y}}\right) \log \frac{1}{\varepsilon}\right)$ 次关于 $\nabla p(x)$ 和 $\nabla q(y)$ 的预言机调用，以及 $\mathcal{O} \left( \max\left\{\sqrt{\frac{L_p}{\mu_x}}, \sqrt{\frac{L_q}{\mu_y}}, \frac{L_R}{\sqrt{\mu_x \mu_y}} \right\}\log \frac{1}{\varepsilon}\right)$ 次关于 $\nabla R(x,y)$ 的预言机调用来求得该问题的 $\varepsilon$-解。据我们所知，我们是首个在 $\mu_x \not = \mu_y$ 情形下开发出具有复杂度分离的最优算法的。此外，我们将该算法应用于双线性鞍点问题，并获得了该类问题的最优复杂度。