从SDP得到的Nesterov方法的显式收敛速率
最优化与控制
2018-01-16 v1 机器学习
数值分析
摘要
Lessard等人（2014）引入的积分二次约束（IQC）框架将若干优化算法收敛速率上界的计算归结为半定规划（SDP）。特别地，该技术被应用于Nesterov加速方法（NAM）。对于二次函数，该SDP被显式求解，得到了NAM收敛速率的新界；对于任意强凸函数，数值结果表明IQC可改进Nesterov（2004）的界。遗憾的是，未给出该SDP的显式解析解。本文中，我们提供了这样的解析解，获得了NAM收敛速率的新的通用显式上界，并进一步对其参数进行优化。据我们所知，这是针对强凸函数的NAM收敛速率的最佳且显式的上界。
关键词
引用
@article{arxiv.1801.04492,
title = {An Explicit Convergence Rate for Nesterov's Method from SDP},
author = {Sam Safavi and Bikash Joshi and Guilherme França and José Bento},
journal= {arXiv preprint arXiv:1801.04492},
year = {2018}
}