中文

基于通用误差界条件的 Douglas-Rachford 算法线性收敛性

最优化与控制 2021-11-12 v1

摘要

我们对 Douglas-Rachford 算法求解问题 minx{f(x)+g(x)}\min_x \{f(x)+g(x)\} 的收敛性质提供新见解,其中 ffgg 为凸函数。我们的方法依赖并凸显上述问题与其 Fenchel 对偶 minu{f(u)+g(u)}\min_{u} \{ f^*(u) + g_*(u)\}(其中 g(u):=g(u)g_*(u):=g^*(-u))之间的自然原始-对偶对称性。主要进展是证明当 Douglas-Rachford 算子上的自然误差界条件成立时算法的线性收敛性。我们利用误差界条件方法证明并估计了三类特殊问题的算法线性收敛速率。第一类是当 ffggff^*gg_* 分别相对于原始与对偶最优集强凸时。第二类是当 ffgg 为分段线性二次函数时。第三类是当 ffgg 为闭凸锥的示性函数时。在所有三类情形中,收敛速率由问题的合适适定性度量决定。在锥情形中,若两个闭凸锥为线性子空间 LLR+n\mathbb{R}^n_+,我们建立如下更强的有限终止结果:Douglas-Rachford 算法在有限步内辨识出 LR+nL\cap \mathbb{R}^n_+LR+nL^{\perp}\cap\mathbb{R}^n_+ 的最大支撑集。我们的进展可直推至更一般的线性约束问题 minx,y{f(x)+g(y):Ax+By=b}\min_{x,y} \{f(x) + g( y):Ax + By = b\},从而凸显 Douglas-Rachford 算法与交替方向乘子法(ADMM)之间直接且简明的关系。

关键词

引用

@article{arxiv.2111.06071,
  title  = {Linear convergence of the Douglas-Rachford algorithm via a generic error bound condition},
  author = {Javier Peña and Juan C. Vera and Luis F. Zuluaga},
  journal= {arXiv preprint arXiv:2111.06071},
  year   = {2021}
}