中文

用于 $l_0$ 正则化问题松弛的带外推的光滑化近端梯度算法

最优化与控制 2021-12-03 v1

摘要

本文考虑由 Bian 和 Chen 给出的 l0l_0 正则化问题的精确连续松弛模型(SIAM J. Numer. Anal 58(1): 858-883, 2020),并针对此类问题提出一种带外推的光滑化近端梯度算法(SPGE)。我们证明,对于相当一般的 extrapolation 参数选择,SPGE 算法生成的序列的任意聚点都是该松弛模型的提升平稳点。此外,证明了 SPGE 算法生成的整个序列收敛到该松弛模型的提升平稳点。建立了关于平方近端残差的 o(1k1σ)(σ(0,1))o(\frac{1}{k^{1-\sigma}})(\sigma\in(0,1)) 收敛速率。最后,我们进行了三个重要的数值实验,以说明 SPGE 算法相比 Bian 和 Chen 提出的光滑化近端梯度(SPG)算法(SIAM J. Numer. Anal 58(1):858-883, 2020)具有更快的效率。

关键词

引用

@article{arxiv.2112.01114,
  title  = {The Smoothing Proximal Gradient Algorithm with Extrapolation for the Relaxation of $l_0$ Regularization Problem},
  author = {Jie Zhang and Xinmin Yang and Gaoxi Li and Ke Zhang},
  journal= {arXiv preprint arXiv:2112.01114},
  year   = {2021}
}