以梯度对抗梯度：针对对抗攻击的动态防御
机器学习
2021-05-19 v1 密码学与安全
计算机视觉与模式识别
摘要
对抗攻击针对模型进行优化以击败防御。现有防御是静态的，一旦训练完成便保持不变，即便攻击发生变化。我们认为模型应当反击，并在测试时针对攻击优化其防御。我们提出动态防御，通过防御性熵最小化（dent）在测试期间自适应模型和输入。dent 改变测试而非训练，从而与现有模型和训练时防御兼容。dent 提升了在 CIFAR-10/100 和 ImageNet 上针对白盒、黑盒和自适应攻击的对抗训练防御和常规训练模型的鲁棒性。特别地，在 = 8/255 下，dent 针对 AutoAttack 在 CIFAR-10 上将最先进防御的绝对准确率提升 20 多个百分点。
引用
@article{arxiv.2105.08714,
title = {Fighting Gradients with Gradients: Dynamic Defenses against Adversarial Attacks},
author = {Dequan Wang and An Ju and Evan Shelhamer and David Wagner and Trevor Darrell},
journal= {arXiv preprint arXiv:2105.08714},
year = {2021}
}