基于最优性违背的非均匀采样随机原始对偶坐标方法
机器学习
2017-03-22 v1 机器学习
最优化与控制
摘要
我们研究带有非均匀采样的原始对偶型随机优化算法。本文的主要理论贡献是给出了带有任意采样的随机原始对偶坐标(SPDC)方法的收敛性分析。基于该理论框架，我们提出了基于最优性违背的采样SPDC (ovsSPDC)，一种基于最优性违背的非均匀采样方法。我们还提出了ovsSPDC的两个高效启发式变体，称为ovsSDPC+和ovsSDPC++。通过大量的数值实验，我们证明了所提出的方法及其变体比其他最先进的(state-of-the-art)原始对偶型随机优化方法更快。
引用
@article{arxiv.1703.07056,
title = {Stochastic Primal Dual Coordinate Method with Non-Uniform Sampling Based on Optimality Violations},
author = {Atsushi Shibagaki and Ichiro Takeuchi},
journal= {arXiv preprint arXiv:1703.07056},
year = {2017}
}