利用粗略强凸性估计重启加速坐标下降法
最优化与控制
2019-10-04 v2
摘要
我们提出了加速坐标下降法的新重启策略。我们的主要贡献是证明对于精心选择的重启时间序列，重启方法具有近几何的收敛速率。该方法的一个主要特点是，它可以在不知晓误差界实际值的情况下，利用目标函数的局部二次误差界。我们还证明，在目标函数强凸这一更具限制性的假设下，任何固定的重启周期都会导致几何收敛速率。最后，我们在正则化逻辑回归问题和 Lasso 问题上说明了该算法的性质。
引用
@article{arxiv.1803.05771,
title = {Restarting the accelerated coordinate descent method with a rough strong convexity estimate},
author = {Olivier Fercoq and Zheng Qu},
journal= {arXiv preprint arXiv:1803.05771},
year = {2019}
}
备注
23 pages. arXiv admin note: text overlap with arXiv:1609.07358