关于通用扰动的独特性质
机器学习
2022-01-03 v1 计算机视觉与模式识别
摘要
我们识别出了通用对抗扰动（UAPs）区别于标准对抗扰动的若干性质。具体而言，我们展示了由投影梯度下降生成的定向 UAP 具有两种与人类对齐的性质：语义局部性与空间不变性，而标准定向对抗扰动缺乏这些性质。我们还证明，UAP 中包含的用于泛化的信号显著少于标准对抗扰动——即 UAP 对非鲁棒特征的利用程度小于标准对抗扰动。
引用
@article{arxiv.2112.15329,
title = {On Distinctive Properties of Universal Perturbations},
author = {Sung Min Park and Kuo-An Wei and Kai Xiao and Jerry Li and Aleksander Madry},
journal= {arXiv preprint arXiv:2112.15329},
year = {2022}
}