有序加权 ℓ₁ 正则化回归对对抗扰动是否鲁棒？以 OSCAR 为例的研究
机器学习
2018-10-04 v2 机器学习
摘要
许多最先进的机器学习模型（如深度神经网络）最近被证明易受对抗扰动的攻击，尤其是在分类任务中。受对抗机器学习的启发，本文研究了具有强相关协变量的稀疏回归模型在对抗性设计的测量噪声下的鲁棒性。具体而言，我们考虑有序加权 ℓ₁（OWL）正则化回归方法族，并研究在对抗环境下 OSCAR（用于回归的八边形收缩聚类算法）的情况。在范数有界威胁模型下，我们将为 OWL 正则化回归寻找最大破坏性噪声的过程表述为一个优化问题，并说明了在 OSCAR 情况下寻找此类噪声的步骤。实验结果表明，在我们的对抗环境下，对强相关特征进行分组的回归性能可能会严重退化，即使噪声预算显著小于真实信号。
引用
@article{arxiv.1809.08706,
title = {Is Ordered Weighted $\ell_1$ Regularized Regression Robust to Adversarial Perturbation? A Case Study on OSCAR},
author = {Pin-Yu Chen and Bhanukiran Vinzamuri and Sijia Liu},
journal= {arXiv preprint arXiv:1809.08706},
year = {2018}
}
备注
Accepted to IEEE GlobalSIP 2018. Pin-Yu Chen and Bhanukiran Vinzamuri contribute equally to this work; v2 fixes missing citation