中文

随机平滑可能无法证明高维图像的$\ell_\infty$鲁棒性

机器学习 2020-03-06 v3 密码学与安全 机器学习

摘要

我们给出了一个关于随机平滑在p>2时难以实现对p\ell_p球中半径为ϵ\epsilon的攻击的认证对抗鲁棒性的困难性结果。尽管对于2\ell_2情形使用高斯分布的随机平滑已被充分理解,但对于是否存在适用于p>2情形的噪声分布仍知之甚少。这已被Cohen等人(2019)作为一个开放问题提出,并包含许多重要范式,如\ell_\infty威胁模型。本工作中,我们证明:任何在Rd\mathbb{R}^d上提供对所有基分类器的p>2的p\ell_p鲁棒性的噪声分布D\mathcal{D}必须满足Eηi2=Ω(d12/pϵ2(1δ)/δ2)\mathbb{E}\eta_i^2=\Omega(d^{1-2/p}\epsilon^2(1-\delta)/\delta^2)(对向量ηD\eta\sim\mathcal{D}中99%的特征(像素)而言),其中ϵ\epsilon为鲁棒半径,δ\delta为最高分班级与次高分班级之间的分数差。因此,对于像素值限定在[0,255][0,255]中的高维图像,所需噪声最终将主导图像中的有用信息,导致平凡的平滑分类器。

关键词

引用

@article{arxiv.2002.03517,
  title  = {Random Smoothing Might be Unable to Certify $\ell_\infty$ Robustness for High-Dimensional Images},
  author = {Avrim Blum and Travis Dick and Naren Manoj and Hongyang Zhang},
  journal= {arXiv preprint arXiv:2002.03517},
  year   = {2020}
}

备注

20 pages, 2 figures; Code is available at https://github.com/hongyanz/TRADES-smoothing