强单调变分不等式加速一阶方法的统一框架
最优化与控制
2021-03-30 v1
摘要
在本文中,我们提出了一个统一框架,融合了多种与动量相关的搜索方向,用于求解强单调变分不等式。框架中搜索方向的特定组合被设计为保证达到 -解的最优迭代复杂度界 ,其中 为条件数。该框架为算法设计者提供了灵活性,可在不同参数组合中挑选最契合手头问题类结构的那一种。所提框架包含以下迭代点与方向作为其组成部分:外梯度、乐观梯度下降上升(OGDA)方向(又称“乐观”)、“重球”方向以及 Nesterov 外推点。因此,上述所有方法都成为外点一般格式下的特例。我们还将该方法专门应用于强凸最小化,并表明类似的额外点方法对这类问题达到了 的最优迭代复杂度界。
引用
@article{arxiv.2103.15270,
title = {A Unifying Framework of Accelerated First-Order Approach to Strongly Monotone Variational Inequalities},
author = {Kevin Huang and Shuzhong Zhang},
journal= {arXiv preprint arXiv:2103.15270},
year = {2021}
}
备注
31 pages, 4 figures