正则化最小二乘问题分裂 Bregman 方法的收敛性证明
最优化与控制
2014-02-19 v1 机器学习
机器学习
摘要
分裂 Bregman (SB) 方法 [T. Goldstein 和 S. Osher, SIAM J. Imaging Sci., 2 (2009), pp. 323-43] 是一种基于快速分裂的算法,通过引入单个变量分裂来解耦数据拟合项和正则化项,从而求解具有通用 (例如全变分 (TV) 和压缩感知 (CS))正则化的图像重建问题,产生可分离(或部分可分离)且易于最小化的简单子问题。已有若干收敛性证明提出,但这些证明要么对分裂施加“满列秩”假设,要么假设所有子问题中的更新是精确的。然而,这些假设在许多应用中并不切实际,例如 X 射线计算机断层扫描 (CT) 图像重建,其中由于高度移变 Hessian,内部最小二乘问题通常无法高效求解。在本文中,我们表明当数据拟合项为二次型时,SB 方法是一种收敛的交替方向乘子法 (ADMM),并利用 [J. Eckstein 和 D. P. Bertsekas, Mathematical Programming, 55 (1992), pp. 293-318, Theorem 8] 给出了带有不精确更新的直接收敛性证明。此外,由于 SB 方法仅是 ADMM 算法的一个特例,若适当选择增广拉格朗日 (AL) 惩罚参数,ADMM 算法似乎可能比 SB 方法更快。为了提供一个具体示例,我们对具有二次数据拟合项和正则化项的图像恢复问题,使用两种分裂对 ADMM 算法进行了收敛率分析。根据我们的分析,我们可以表明,如果 SB 方法的 AL 惩罚参数是次优的,那么双分裂 ADMM 算法可以比 SB 方法更快。我们进行了数值实验以验证我们的分析。
引用
@article{arxiv.1402.4371,
title = {A convergence proof of the split Bregman method for regularized least-squares problems},
author = {Hung Nien and Jeffrey A. Fessler},
journal= {arXiv preprint arXiv:1402.4371},
year = {2014}
}
备注
11 pages, 3 figures, submitted to SIAM J. Imaging Sci