中文

用于强凸强凹鞍点问题与强单调变分不等式的张量方法

最优化与控制 2021-04-14 v3

摘要

本文针对 μ\mu-强凸强凹鞍点问题(SPP)提出三种 pp 阶张量方法。第一种方法基于目标函数 pp 阶光滑性的假设,达到 O((LpRp1μ)2p+1logμR2εG)O \left( \left( \frac{L_p R^{p - 1}}{\mu} \right)^\frac{2}{p + 1} \log \frac{\mu R^2}{\varepsilon_G} \right) 的收敛速率,其中 RR 为到解的初距估计,εG\varepsilon_G 为对偶间隙意义上的误差。在目标函数一阶与二阶光滑性的附加假设下,我们将第一种方法与局部超线性收敛算法相联系,并发展出第二种方法,其复杂度为 O((LpRp1μ)2p+1logL2Rmax{1,L1μ}μ+loglogL132μ2εGlogL1L2μ2)O \left( \left( \frac{L_p R^{p - 1}}{\mu} \right)^\frac{2}{p + 1}\log \frac{L_2 R \max \left\{ 1, \frac{L_1}{\mu} \right\}}{\mu} + \log \frac{\log \frac{L_1^3}{2 \mu^2 \varepsilon_G}}{\log \frac{L_1 L_2}{\mu^2}} \right)。第三种方法是第二种方法的改进版本,以 O~((LpRpε)2p+1)\tilde O \left( \left( \frac{L_p R^p}{\varepsilon_\nabla} \right)^\frac{2}{p + 1} \right) 次预言机调用解决梯度范数最小化 SPP,其中 ε\varepsilon_\nabla 为目标函数梯度范数意义上的误差。由于我们将 SPP 视为变分不等式的特例,我们也提出三种用于强单调变分不等式的方法,其复杂度与上述相同。

关键词

引用

@article{arxiv.2012.15595,
  title  = {Tensor methods for strongly convex strongly concave saddle point problems and strongly monotone variational inequalities},
  author = {Petr Ostroukhov and Rinat Kamalov and Pavel Dvurechensky and Alexander Gasnikov},
  journal= {arXiv preprint arXiv:2012.15595},
  year   = {2021}
}