双重定向通用对抗扰动
机器学习
2020-10-09 v1 密码学与安全
计算机视觉与模式识别
摘要
尽管深度神经网络（DNNs）性能令人印象深刻，但广为人知的是它们易受对抗攻击，这使其难以部署于自动驾驶等安全敏感应用。图像相关扰动可针对特定图像欺骗网络，而通用对抗扰动能够不加选择地欺骗网络以识别所有类别的样本。我们引入双重定向通用对抗扰动（DT-UAPs）以弥合实例判别的图像相关扰动与通用扰动之间的差距。该通用扰动将某一目标源类攻击至汇类，同时对其他非目标源类的对抗影响有限，以避免引起怀疑。同时定向源类与汇类，我们称之为双重定向攻击（DTA）。这为攻击者提供了对 DNN 模型执行精确攻击而极少引起怀疑的自由。我们展示了所提 DTA 算法在广泛数据集上的有效性，并论证了其作为物理攻击的潜力。
引用
@article{arxiv.2010.03288,
title = {Double Targeted Universal Adversarial Perturbations},
author = {Philipp Benz and Chaoning Zhang and Tooba Imtiaz and In So Kweon},
journal= {arXiv preprint arXiv:2010.03288},
year = {2020}
}
备注
Accepted at ACCV 2020