Rest-Katyusha:通过预定重启机制利用解的结构
最优化与控制
2018-06-26 v2
摘要
我们提出一种针对正则化经验风险最小化的最先进随机方差缩减梯度算法 Katyusha 的结构自适应变体。所提方法能够利用解固有的低维结构(如由非光滑正则化所强制的稀疏性或低秩性),以实现更快的收敛速率。这一可证明的算法改进通过依据受限强凸常数重启 Katyusha 算法来实现。我们通过数值实验展示了方法的有效性。
引用
@article{arxiv.1803.02246,
title = {Rest-Katyusha: Exploiting the Solution's Structure via Scheduled Restart Schemes},
author = {Junqi Tang and Mohammad Golbabaee and Francis Bach and Mike Davies},
journal= {arXiv preprint arXiv:1803.02246},
year = {2018}
}