具有不精确预言机的凸问题的通用中间梯度法
最优化与控制
2019-10-22 v2
摘要
在本文中，我们提出用于简单凸集上凸函数极小化的新一阶方法。我们假设目标函数是一个复合函数，表示为一个简单凸函数与一个具有不精确 H"older 连续次梯度的凸函数之和。我们提出通用中间梯度法（Universal Intermediate Gradient Method）。我们的方法同时具备通用性与中间性。遵循 Y. Nesterov（Math.Prog., 2015）关于通用梯度法的论文，我们的方法不需要关于 H"older 参数与常数的任何信息，并自动适应局部的平滑程度。另一方面，本着 O. Devolder、F.Glineur 和 Y. Nesterov（CORE DP 2013/17）预印本的精神，我们的方法在意义上是中间的，即它在通用梯度法与通用快速梯度法之间插值。这允许平衡方法的收敛速率与预言机误差累积速率。在目标函数强凸的附加假设下，我们展示了如何使用重启技术来获得具有更快收敛速率的算法。
引用
@article{arxiv.1712.06036,
title = {Universal Intermediate Gradient Method for Convex Problems with Inexact Oracle},
author = {Dmitry Kamzolov and Pavel Dvurechensky and Alexander Gasnikov},
journal= {arXiv preprint arXiv:1712.06036},
year = {2019}
}