随机平滑在可证明鲁棒性上的维度灾难

随机平滑仅使用简单的各向同性高斯分布，已被证明能够对$\ell_2$-范数有界对抗样本产生良好的鲁棒性保证。在这项工作中，我们表明将平滑技术扩展到防御其他攻击模型可能具有挑战性，尤其是在高维情形下。特别地，对于一大类独立同分布的平滑分布，我们证明了当$p > 2$时，可证明的最大$\ell_p$-半径随维度$d$以$O(1/d^{\frac{1}{2} - \frac{1}{p}})$的速度递减。值得注意的是，对于$p \geq 2$，这种对$d$的依赖关系并不优于使用各向同性高斯平滑可证明的$\ell_p$-半径，本质上为该鲁棒性半径给出了一个匹配的下界。当限制于广义高斯平滑时，这两个界在渐近意义下可证明彼此相差一个常数因子，确立了当$p \geq 2$时高斯平滑在常数因子范围内提供了最佳可能结果。我们在CIFAR上给出了实验以验证我们的理论。对于其他平滑分布，例如在$\ell_1$或$\ell_\infty$-范数球内的均匀分布，我们分别给出了形式为$O(1 / d)$和$O(1 / d^{1 - \frac{1}{p}})$的上界，它们对$d$的依赖关系甚至更差。