中文

强单调变分不等式加速一阶方法的统一框架

最优化与控制 2021-03-30 v1

摘要

在本文中,我们提出了一个统一框架,融合了多种与动量相关的搜索方向,用于求解强单调变分不等式。框架中搜索方向的特定组合被设计为保证达到 ϵ\epsilon-解的最优迭代复杂度界 O(κln(1/ϵ))\mathcal{O}\left(\kappa\ln(1/\epsilon)\right),其中 κ\kappa 为条件数。该框架为算法设计者提供了灵活性,可在不同参数组合中挑选最契合手头问题类结构的那一种。所提框架包含以下迭代点与方向作为其组成部分:外梯度、乐观梯度下降上升(OGDA)方向(又称“乐观”)、“重球”方向以及 Nesterov 外推点。因此,上述所有方法都成为外点一般格式下的特例。我们还将该方法专门应用于强凸最小化,并表明类似的额外点方法对这类问题达到了 O(κln(1/ϵ))\mathcal{O}(\sqrt{\kappa}\ln(1/\epsilon)) 的最优迭代复杂度界。

关键词

引用

@article{arxiv.2103.15270,
  title  = {A Unifying Framework of Accelerated First-Order Approach to Strongly Monotone Variational Inequalities},
  author = {Kevin Huang and Shuzhong Zhang},
  journal= {arXiv preprint arXiv:2103.15270},
  year   = {2021}
}

备注

31 pages, 4 figures