一种求解线性约束可分优化问题的随机方差缩减原始对偶不动点方法
最优化与控制
2020-07-24 v1
摘要
本文将随机方差缩减梯度(SVRG)方法[17]与文献[7]提出的原始对偶不动点方法(PDFP)相结合，用于求解两个凸函数之和的问题，其中之一是线性复合的。此类问题典型地出现在稀疏信号与图像重建中。所提出的 SVRG-PDFP 可视为最初为最小化两个凸函数之和而设计的 Prox-SVRG[37] 的推广。基于一些标准假设，我们提出两种变体，一种针对强凸目标函数，另一种针对一般凸情形。收敛性分析表明，对于一般凸目标函数，SVRG-PDFP 的收敛速率为 O(1/k)（此处 k 为迭代次数），而对于强凸情形关于 k 是线性的。给出了机器学习与 CT 图像重建上的数值例子以展示算法的有效性。
引用
@article{arxiv.2007.11783,
title = {A Stochastic Variance Reduced Primal Dual Fixed Point Method For Linearly Constrained Separable Optimization},
author = {Ya-Nan Zhu and Xiaoqun Zhang},
journal= {arXiv preprint arXiv:2007.11783},
year = {2020}
}