基于对偶半光滑牛顿法的增广拉格朗日方法求解大规模线性约束稀疏组平方根Lasso问题
最优化与控制
2021-11-30 v1 机器学习
数值分析
数值分析
统计计算
机器学习
摘要
平方根Lasso问题被证明是稳健的回归问题。此外，具有结构化稀疏性的平方根回归问题在统计学和机器学习中也起着重要作用。本文关注大规模线性约束稀疏组平方根Lasso问题的数值计算。为克服目标函数中存在两个非光滑项的困难，我们提出了一种基于对偶半光滑牛顿(SSN)的增广拉格朗日方法(ALM)。即，我们将ALM应用于对偶问题，其子问题由SSN方法求解。为应用SSN方法，广义雅可比矩阵的正定性非常重要。因此我们刻画了其正定性与相应原问题约束非退化条件的等价性。在数值实现中，我们充分利用二阶稀疏性，从而能够高效获得牛顿方向。数值实验证明了所提算法的有效性。
引用
@article{arxiv.2111.13878,
title = {A dual semismooth Newton based augmented Lagrangian method for large-scale linearly constrained sparse group square-root Lasso problems},
author = {Chengjing Wang and Peipei Tang},
journal= {arXiv preprint arXiv:2111.13878},
year = {2021}
}
备注
31 pages, 6 tables