关于原始-对偶近端增量聚合梯度算法的收敛性
最优化与控制
2019-11-14 v1
摘要
在本文中，我们将近端增量聚合梯度方法适配于鞍点问题，其动机在于解耦正则化经验风险最小化模型中的线性变换。首先，提出了带外推的原始-对偶近端增量聚合（PD-PIAG）方法。我们证明了平均迭代序列的原始-对偶间隙次线性收敛到 0，且迭代序列收敛到某个鞍点。在 和 强凸的条件下，我们证明了迭代序列线性收敛到该鞍点。随后，我们提出了一种不带外推的 PD-PIAG 方法。在 强凸下，证明了迭代序列的原始-对偶间隙次线性收敛。
引用
@article{arxiv.1911.05396,
title = {On the Convergence of Primal-Dual Proximal Incremental Aggregated Gradient Algorithms},
author = {Zhou Xianchen and Peng Wei and Wang Hongxia},
journal= {arXiv preprint arXiv:1911.05396},
year = {2019}
}
备注
17pages