迭代重加权 $\ell_1$ 算法的 Anderson 加速
最优化与控制
2024-03-13 v1 人工智能
机器学习
信号处理
摘要
迭代重加权 L1 (IRL1) 算法是求解具有非凸和非光滑正则化项的稀疏优化问题的常用算法。其加速算法的发展(通常采用 Nesterov 加速)引发了极大的兴趣。然而,这些加速算法的收敛性和复杂度分析始终构成重大挑战。近年来,Anderson 加速因其在加速不动点迭代方面的卓越表现而备受关注,许多近期研究将其应用于基于梯度的算法。受 Anderson 加速强大影响力的启发,我们提出了一种 Anderson 加速的 IRL1 算法,并建立了其局部线性收敛速率。我们将这一通常在光滑设定中观察到的收敛结果推广到了非光滑情形。重要的是,我们的理论结果不依赖于 Kurdyka-Lojasiewicz 条件,而这是现有基于 Nesterov 加速算法中的必要条件。此外,为了确保全局收敛,我们通过引入经典的非单调线搜索条件,提出了一种全局收敛的 Anderson 加速 IRL1 算法。实验结果表明,我们的算法优于现有的基于 Nesterov 加速的算法。
引用
@article{arxiv.2403.07271,
title = {Anderson acceleration for iteratively reweighted $\ell_1$ algorithm},
author = {Kexin Li},
journal= {arXiv preprint arXiv:2403.07271},
year = {2024}
}