SmoothFool：一种计算光滑对抗扰动的高效框架
机器学习
2019-10-10 v1 计算机视觉与模式识别
机器学习
摘要
深度神经网络在输入域中易受对抗性操纵。在 有界和 极小对抗扰动的情形下，其脆弱程度已被深入探究。然而，DNN 对具有特定统计特性或频域特征的对抗扰动的脆弱性尚未得到充分探索。本文中，我们研究扰动的光滑性并提出 SmoothFool，一种用于计算光滑对抗扰动的通用且计算高效的框架。通过大量实验，我们验证了所提方法在白盒和黑盒攻击场景下的有效性。特别地，我们证明：(i) 对于成熟且广泛使用的网络架构，存在极其光滑的对抗扰动，(ii) 光滑性显著增强了扰动针对最先进防御机制的鲁棒性，(iii) 光滑性提升了对抗扰动在数据点和网络架构间的可迁移性，(iv) 类别在受光滑扰动影响的易感性上呈现可变范围。我们的结果表明光滑对抗扰动在探索 DNN 对对抗样本的脆弱程度方面可发挥重要作用。
引用
@article{arxiv.1910.03624,
title = {SmoothFool: An Efficient Framework for Computing Smooth Adversarial Perturbations},
author = {Ali Dabouei and Sobhan Soleymani and Fariborz Taherkhani and Jeremy Dawson and Nasser M. Nasrabadi},
journal= {arXiv preprint arXiv:1910.03624},
year = {2019}
}