Forward–Douglas–Rachford 分裂方法的收敛速率
最优化与控制
2018-01-04 v1
摘要
近年来,算子分裂方法因其简单高效而在非光滑优化中变得无处不在。本文考虑 Forward–Douglas–Rachford 分裂方法(FDR)[10,40],并研究该方法的全局与局部收敛速率。对于全局速率,我们针对目标函数适当设计的 Bregman 散度建立了 的收敛速率。此外,当特化为 Forward–Backward 分裂方法时,我们证明对于下降步长的大多数选择,该方法的目标准函数的收敛速率实际为 。然后在局部,基于优化问题的非光滑部分部分光滑的假设,我们建立了该方法的局部线性收敛。更精确地,我们证明 FDR 方法生成的序列首先 (i) 在有限次迭代内识别出一个光滑流形,然后 (ii) 进入局部线性收敛机制,其例如由底层活跃光滑流形的结构所刻画。为示例所得结果的有用性,我们考虑了来自包括例如信号处理/图像处理、反问题和机器学习等应用领域的若干具体数值实验。
引用
@article{arxiv.1801.01088,
title = {Convergence rates of Forward--Douglas--Rachford splitting method},
author = {Cesare Molinari and Jingwei Liang and Jalal Fadili},
journal= {arXiv preprint arXiv:1801.01088},
year = {2018}
}