对抗攻击对稀疏回归影响的理论研究

本文分析了在仅具有对抗性 corrupted 数据用于训练这一挑战性场景下的 $\ell_1$ 正则化线性回归。我们使用原对偶见证(primal-dual witness)范式,为所估计回归参数向量支撑集与实际参数相匹配提供可证明的性能保证。我们的理论分析展示了一个反直觉的结果: adversary 可以通过破坏无关特征(即对应于回归参数向量零系数的那些特征)来影响样本复杂度,而这些特征因而并不影响因变量。由于任何对抗鲁棒算法都有其局限性,我们的理论分析确定了学习算法与 adversary 彼此主导的 regimes。它帮助我们分析这些基本极限,并解决哪些参数(如互不相干性、协方差矩阵的最大与最小特征值、以及对抗扰动预算)在LASSO算法成功的高或低概率中起作用的重大科学问题。此外,导出的样本复杂度相对于回归参数向量的大小是对数的,且我们的理论断言通过在合成与真实世界数据集上的实证分析得到验证。