中文

压缩感知中 $\ell_1$-正则化非光滑最小化的非单调 Barzilai-Borwein 梯度算法

最优化与控制 2017-10-23 v1 数值分析

摘要

本文致力于最小化一个光滑函数与一个非光滑 1\ell_1-正则化项之和。作为特例,该问题涵盖了信号处理、压缩感知、机器学习、数据挖掘等领域中的 1\ell_1-正则化凸最小化问题。然而,1\ell_1-范数的不可微性带来了更多挑战,尤其是在许多实际应用中遇到的大规模问题中。本文提出、分析并测试了一种 Barzilai-Borwein 梯度算法。在每次迭代中,生成的搜索方向具有下降性质,可以通过最小化局部近似二次模型并同时利用 1\ell_1-范数的有利结构轻松导出。此外,引入了非单调线搜索技术以沿该方向找到合适的步长。该算法易于执行,每次迭代仅需目标函数值和光滑项的梯度值。在某些条件下,证明了所提出的算法是全局收敛的。使用 CUTEr 库中的一些非凸无约束问题并添加 1\ell_1-正则化进行的有限实验表明,所提出的算法表现良好。针对压缩感知中 1\ell_1-正则化最小二乘问题的大量实验验证了我们的算法与近年来专门设计的几种最先进算法相比具有优势。

关键词

引用

@article{arxiv.1207.4538,
  title  = {Nonmonotone Barzilai-Borwein Gradient Algorithm for $\ell_1$-Regularized Nonsmooth Minimization in Compressive Sensing},
  author = {Yunhai Xiao and Soon-Yi Wu and Liqun Qi},
  journal= {arXiv preprint arXiv:1207.4538},
  year   = {2017}
}

备注

20 pages