中文

通过双重随机平滑缓解认证鲁棒性的维度灾难

计算机视觉与模式识别 2024-06-18 v4 机器学习

摘要

随机平滑已被证明是一种赋予任意图像分类器认证鲁棒性的有前景的方法。然而,高维各向同性高斯噪声固有的巨大不确定性给随机平滑带来了维度灾难。具体而言,随机平滑提供的2{\ell_2}认证鲁棒性半径的上界随着输入维度dd的扩大呈下降趋势,以1/d1/\sqrt{d}的速率成比例减小。本文探讨了通过在低维空间中利用双重平滑为高维输入提供2{\ell_2}认证鲁棒性的可行性。所提出的双重随机平滑将输入图像下采样为两个子图像,并在较低维度上对这两个子图像进行平滑。在理论上,我们证明了DRS为原始输入保证了紧致的2{\ell_2}认证鲁棒性半径,并揭示了DRS在2{\ell_2}鲁棒性半径上获得了更优的上界,该上界以(1/m+1/n)(1/\sqrt m + 1/\sqrt n )的速率成比例减小,其中m+n=dm+n=d。大量实验证明了DRS的泛化性和有效性,它展现出与现有方法结合的显著能力,在CIFAR-10和ImageNet数据集上显著提升了RS的准确率和2{\ell_2}认证鲁棒性基线。代码可在https://github.com/xiasong0501/DRS获取。

关键词

引用

@article{arxiv.2404.09586,
  title  = {Mitigating the Curse of Dimensionality for Certified Robustness via Dual Randomized Smoothing},
  author = {Song Xia and Yi Yu and Xudong Jiang and Henghui Ding},
  journal= {arXiv preprint arXiv:2404.09586},
  year   = {2024}
}

备注

This paper has been accepted to the International Conference on Learning Representations (ICLR), 2024