线性耦合方法的通用修正
最优化与控制
2018-04-25 v3
摘要
在六十年代后期，N. Shor 和 B. Polyak 分别提出了针对非光滑凸优化问题的最优一阶方法。1982 年 A. Nemirovski 提出了利用辅助线搜索的平滑凸优化问题最优一阶方法。1985 年 A. Nemirovski 和 Yu. Nesterov 提出了一类针对具有中间光滑度的凸优化问题的最优一阶方法参数族。2013 年 Yu. Nesterov 提出了一种通用梯度方法，它结合了先前方法的所有优良性质，但不包括使用辅助线搜索的可能性。通常可观察到，在实践中辅助线搜索能改善许多任务的性能。本文中，我们提出了首个允许使用线搜索过程的非光滑凸优化此类方法。此外，它基于通用梯度方法，无需关于问题实际光滑度程度的任何先验信息。数值实验表明，所提方法在某些情况下明显快于 Nesterov 的通用梯度方法。
引用
@article{arxiv.1711.01850,
title = {A universal modification of the linear coupling method},
author = {Sergey Guminov and Alexander Gasnikov and Anton Anikin and Alexander Gornov},
journal= {arXiv preprint arXiv:1711.01850},
year = {2018}
}