随机平滑可能无法证明高维图像的$\ell_\infty$鲁棒性
机器学习
2020-03-06 v3 密码学与安全
机器学习
摘要
我们给出了一个关于随机平滑在p>2时难以实现对球中半径为的攻击的认证对抗鲁棒性的困难性结果。尽管对于情形使用高斯分布的随机平滑已被充分理解,但对于是否存在适用于p>2情形的噪声分布仍知之甚少。这已被Cohen等人(2019)作为一个开放问题提出,并包含许多重要范式,如威胁模型。本工作中,我们证明:任何在上提供对所有基分类器的p>2的鲁棒性的噪声分布必须满足(对向量中99%的特征(像素)而言),其中为鲁棒半径,为最高分班级与次高分班级之间的分数差。因此,对于像素值限定在中的高维图像,所需噪声最终将主导图像中的有用信息,导致平凡的平滑分类器。
引用
@article{arxiv.2002.03517,
title = {Random Smoothing Might be Unable to Certify $\ell_\infty$ Robustness for High-Dimensional Images},
author = {Avrim Blum and Travis Dick and Naren Manoj and Hongyang Zhang},
journal= {arXiv preprint arXiv:2002.03517},
year = {2020}
}
备注
20 pages, 2 figures; Code is available at https://github.com/hongyanz/TRADES-smoothing