基于凸共轭的一阶方法收敛性

Javier Pena

基于凸共轭的一阶方法收敛性

最优化与控制 2017-07-31 v1

作者: Javier Pena

摘要

本文给出了一种统一而简洁的方法，用于证明无约束凸最小化中子梯度、梯度和加速梯度方法的 $O(1/\sqrt{k})$ 、 $O(1/k)$ 和 $O(1/k^2)$ 收敛速率。在这三种情况下，收敛性的证明均源于由目标函数的凸共轭定义的通用界。

关键词

accelerated gradient methods gradient descent optimization proximal optimization

引用

@article{arxiv.1707.09084,
  title  = {Convergence of first-order methods via the convex conjugate},
  author = {Javier Pena},
  journal= {arXiv preprint arXiv:1707.09084},
  year   = {2017}
}

相关论文

查看更多相关论文 →