BUZz：用于防御图像分类中对抗样本的缓冲区域
机器学习
2020-06-18 v2 密码学与安全
图像与视频处理
机器学习
摘要
我们提出了一种针对图像分类问题中深度神经网络上所有现有基于梯度的对抗攻击的新防御方法。我们的防御基于深度神经网络与简单图像变换的结合。尽管实现直接，该防御产生了一种我们称之为缓冲区域(unique security property)的独特安全属性。我们论证，基于缓冲区域的防御相较于最先进(SOTA)防御有显著改进。即使攻击方能够访问{\em 整个}原始训练数据集并对防御具有无限查询访问权限，我们也能实现此改进。我们通过使用 Fashion-MNIST 和 CIFAR-10 的实验验证我们的主张：我们展示了 的攻击成功率——显著低于其他知名 SOTA 防御所提供的——仅以干净准确率下降 为代价。通过使用一种新颖直观的度量，我们解释了此权衡相较于先前工作所提供的显著改进。
引用
@article{arxiv.1910.02785,
title = {BUZz: BUffer Zones for defending adversarial examples in image classification},
author = {Kaleel Mahmood and Phuong Ha Nguyen and Lam M. Nguyen and Thanh Nguyen and Marten van Dijk},
journal= {arXiv preprint arXiv:1910.02785},
year = {2020}
}