梯度混淆检查表测试给出虚假的安全感
计算机视觉与模式识别
2022-06-06 v1
摘要
针对对抗攻击的一类流行防御技术基于向网络中注入随机噪声。然而，此类随机防御的主要鲁棒性来源通常是梯度混淆，这带来了虚假的安全感。由于大多数流行的对抗攻击是基于优化的，被混淆的梯度降低了它们的攻击能力，而模型仍易受更强或专门定制的对抗攻击。最近，人们识别出五个特征，当鲁棒性提升主要由梯度混淆引起时通常会观察到这些特征。此后，使用这五个特征作为充分测试以判断梯度混淆是否为鲁棒性主要来源成为一种趋势。然而，这些特征并不能完美刻画所有现有的梯度混淆情况，因此不能作为结论性测试的基础。在这项工作中，我们给出一个反例，表明该测试不足以得出梯度混淆不是鲁棒性提升主要原因的结论。
引用
@article{arxiv.2206.01705,
title = {Gradient Obfuscation Checklist Test Gives a False Sense of Security},
author = {Nikola Popovic and Danda Pani Paudel and Thomas Probst and Luc Van Gool},
journal= {arXiv preprint arXiv:2206.01705},
year = {2022}
}