基于 LASSO 的特征选择的对抗鲁棒性研究

Fuwei Li; Lifeng Lai; Shuguang Cui

doi:10.1109/TSP.2021.3115943

基于 LASSO 的特征选择的对抗鲁棒性研究

机器学习 2021-11-03 v1 信号处理最优化与控制机器学习

作者: Fuwei Li , Lifeng Lai , Shuguang Cui

在 arXiv 上查看 ↗ PDF ↗ DOI ↗

摘要

本文研究基于 $\ell_1$ 正则化线性回归模型（即 LASSO）的特征选择的对抗鲁棒性。在所考虑的模型中，存在一个恶意对手，其可观测整个数据集，随后精心修改响应值或特征矩阵以操纵所选特征。我们将对手的修改策略表述为一个双层优化问题。由于 $\ell_1$ 范数在零点不可微带来的困难，我们将 $\ell_1$ 范数正则项重新表述为线性不等式约束。我们采用内点法求解该重构后的 LASSO 问题并获取梯度信息，随后使用投影梯度下降法设计修改策略。此外，我们证明该方法可推广至其他基于 $\ell_1$ 的特征选择方法，如 group LASSO 与 sparse group LASSO。基于合成与真实数据的数值例子表明，我们的方法是高效且有效的。

关键词

对抗鲁棒性特征选择 LASSO 双层优化内点法投影梯度下降 group LASSO

引用

@article{arxiv.2010.10045,
  title  = {On the Adversarial Robustness of LASSO Based Feature Selection},
  author = {Fuwei Li and Lifeng Lai and Shuguang Cui},
  journal= {arXiv preprint arXiv:2010.10045},
  year   = {2021}
}

基于 LASSO 的特征选择的对抗鲁棒性研究

摘要

关键词

引用

相关论文