带非凸稀疏正则化项的 Lasso 筛选规则
机器学习
2019-02-20 v2 机器学习
摘要
利用 Lasso 问题的凸性，筛选规则可在优化过程中通过丢弃无关变量来加速求解器。然而，由于在非凸正则化项能更好地提供识别相关变量的理论保证，文献中已提出若干用于 Lasso 的非凸正则化项。本工作是首个将筛选规则策略引入非凸 Lasso 求解器的研究。我们提出的方法基于一种迭代优化最小化（MM）策略，其在内部求解器中包含筛选规则，并给出了在 MM 各迭代间传播被筛选变量的条件。除提升求解器效率外，我们还提供保证，证明内部求解器能够在有限时间内识别其临界点的零分量。我们的实验分析表明，与经典的坐标下降或近端梯度下降方法相比，新筛选规则带来了显著的计算增益。
引用
@article{arxiv.1902.06125,
title = {Screening Rules for Lasso with Non-Convex Sparse Regularizers},
author = {Alain Rakotomamonjy and Gilles Gasso and Joseph Salmon},
journal= {arXiv preprint arXiv:1902.06125},
year = {2019}
}