前向-Douglas-Rachford 分裂算法的收敛速率分析
最优化与控制
2015-07-09 v4
摘要
算子分裂方案是一类强大的算法,用于求解由多个简单部分构成的复杂单调包含与凸优化问题。这类算法将分解后的所有简单部分逐一处理,从而得到易于实现、高度可并行化或分布式的算法,且通常能取得接近当前最优的性能。本文分析了前向-Douglas-Rachford 分裂(FDRS)算法的收敛速率,该算法是前向-后向分裂(FBS)和 Douglas-Rachford 分裂(DRS)算法的推广。在一般凸性假设下,我们推导了 FDRS 算法的遍历与非遍历收敛速率,并证明这些速率是最优的。在 Lipschitz 可微性假设下,我们证明 FDRS 的最佳迭代点收敛速度与 FBS 算法的最终迭代点一样快。在强凸性假设下,我们推导了强收敛到极小点的序列的收敛速率。在强凸性与 Lipschitz 可微性假设下,我们证明 FDRS 具有线性收敛速率。我们也提供了目标函数强凸但 FDRS 收敛可任意缓慢的例子。最后,我们将 FDRS 算法与一种原始-对偶前向-后向分裂方案联系起来,并阐明其在现有分裂方法中的位置。我们的结果表明,FDRS 算法能自动适应目标函数的正则性,并取得优于无光滑性与强凸性时尖锐最坏情形速率的收敛速率。
引用
@article{arxiv.1410.2654,
title = {Convergence rate analysis of the forward-Douglas-Rachford splitting scheme},
author = {Damek Davis},
journal= {arXiv preprint arXiv:1410.2654},
year = {2015}
}
备注
26 pages, 2 figures. Accepted for publication in SIAM Journal on Optimization