基于稀疏化前端的鲁棒对抗学习

众所周知，微小的对抗扰动即可诱导深度神经网络产生分类错误。本文从自底向上的信号处理视角审视该问题，表明系统性地利用自然数据中的稀疏性是一种有前景的防御工具。对于线性分类器，我们证明稀疏化前端在对抗 $\ell_{\infty}$ 有界攻击时具有可证明的有效性，能将攻击导致的输出失真降低约 $K/N$ 倍，其中 $N$ 为数据维度，$K$ 为稀疏度水平。随后我们将该概念推广至深度网络，表明可用“局部线性”模型为构造攻击与防御建立理论基础。我们还基于局部线性模型设计了优于知名 FGSM 攻击的攻击方法。在 MNIST 与 CIFAR-10 数据集上的实验补充了我们的理论结果，展示了所提基于稀疏性的防御方案的有效性。