大规模线性约束凸规划随机原始对偶坐标方法的线性收敛性
最优化与控制
2020-09-01 v1
摘要
线性约束凸规划有许多实际应用,包括支持向量机和机器学习投资组合问题。我们提出随机原始对偶坐标(RPDC)方法,它是Cohen和Zhu(1984)以及Zhao和Zhu(2019)一阶原始对偶方法的随机坐标扩展,用于求解线性约束凸规划。我们基于均匀分布随机选取变量块,线性化,并对所选块应用类Bregman函数(核心函数)以获得简单的并行原始对偶分解。随后我们建立了几乎必然收敛和期望O(1/t)收敛速率,以及全局强度量次正则下的期望线性收敛。最后,我们讨论了随机原始对偶坐标方法的实现细节,并给出了在支持向量机和机器学习投资组合问题上的数值实验以验证线性收敛。
引用
@article{arxiv.2008.12946,
title = {Linear Convergence of Randomized Primal-Dual Coordinate Method for Large-scale Linear Constrained Convex Programming},
author = {Daoli Zhu and Lei Zhao},
journal= {arXiv preprint arXiv:2008.12946},
year = {2020}
}