一种混合拟牛顿投影梯度法及其在 Lasso 和基追踪去噪中的应用
最优化与控制
2016-11-18 v1
摘要
我们针对 ℝⁿ 中多面体集上的凸函数优化提出了一种新算法。该算法扩展了谱投影梯度法，在可能的情况下将有限内存 BFGS 迭代限制在当前面上。我们在适当条件下证明了算法的收敛性，并将该算法应用于求解 Lasso 问题，进而通过 van den Berg 和 Friedlander [SIAM Journal on Scientific Computing, 31(2), 2008] 提出的求根框架求解基追踪去噪问题。该算法特别适用于简单域，也可用于求解边界约束问题以及限制在单纯形上的问题。
引用
@article{arxiv.1611.05483,
title = {A Hybrid Quasi-Newton Projected-Gradient Method with Application to Lasso and Basis-Pursuit Denoise},
author = {Ewout van den Berg},
journal= {arXiv preprint arXiv:1611.05483},
year = {2016}
}