利用小批量随机方差缩减邻近迭代改进有限和优化
最优化与控制
2017-10-12 v2 机器学习
机器学习
摘要
我们针对经验风险最小化问题提出了新颖的小批量随机优化方法，这些方法有效利用方差缩减的一阶信息和子采样高阶信息来加速收敛速度。对于二次目标，我们在合理假设下证明了相比现有最优方法更优的迭代复杂度。我们还提供了实证证据，表明我们的方法相较于文献中现有方法具有优势。
引用
@article{arxiv.1706.07001,
title = {Improved Optimization of Finite Sums with Minibatch Stochastic Variance Reduced Proximal Iterations},
author = {Jialei Wang and Tong Zhang},
journal= {arXiv preprint arXiv:1706.07001},
year = {2017}
}