中文

缩放梯度投影法的新收敛结果

数值分析 2015-09-10 v3

摘要

本文旨在深化 Bonettini 等人近期在约束光滑优化论文中提出的缩放梯度投影(SGP)方法的收敛性分析。SGP 的主要特征是存在一个乘以梯度的可变缩放矩阵,该矩阵可能在每次迭代中发生变化。在过去几年中,大量的数值实验表明,配备合适缩放矩阵选择的 SGP 是解决图像和信号处理中出现的大规模变分问题的非常有效的工具。尽管观察到的数值结果非常可靠,但目前仅提供了一个较弱但非常通用的收敛定理,确立了由 SGP 生成的序列的任何极限点都是平稳点。在此,我们仅在目标函数为凸且解存在的假设下,证明了如果缩放矩阵序列满足一个简单且可实施的条件,则由 SGP 生成的序列收敛到一个最小点。此外,假设目标函数的梯度是 Lipschitz 连续的,我们还能够证明关于目标函数值的O(1/k)O(1/k)收敛速率。最后,我们展示了一些相关图像复原问题的数值实验结果,表明所提出的缩放矩阵选择规则在计算方面也表现良好。

关键词

引用

@article{arxiv.1406.6601,
  title  = {New convergence results for the scaled gradient projection method},
  author = {Silvia Bonettini and Marco Prato},
  journal= {arXiv preprint arXiv:1406.6601},
  year   = {2015}
}