FenceBox：一种利用数据增强技术抵御对抗样本的平台
机器学习
2020-12-04 v1 密码学与安全
摘要
深度神经网络（DNN）易受对抗样本（AE）攻击已被广泛研究。随着越来越多先进的对抗攻击方法被提出，大量相应的防御方案被设计出来以增强 DNN 模型的鲁棒性。利用数据增强技术在推理前对输入样本进行预处理以去除对抗扰动已成为一种流行做法。这些方案通过混淆 DNN 模型的梯度，能够抵御相当数量的常规攻击。遗憾的是，先进的基于梯度的攻击技术（如 BPDA 和 EOT）被引入以抵消这些预处理效果。本文提出 FenceBox，一个用于抵御各类对抗攻击的综合框架。FenceBox 配备了来自三个不同类别的 15 种数据增强方法。我们全面评估了这些方法能够有效缓解各种对抗攻击。FenceBox 还提供 API，使用户能够以不同模式轻松在其模型上部署防御：他们既可以选择任意一种预处理方法，也可以选择多种功能的组合以获得更好的鲁棒性保障，即便在面对先进对抗攻击时也是如此。我们将 FenceBox 开源，期望它能作为一个标准工具包来促进对抗攻击与防御的研究。
引用
@article{arxiv.2012.01701,
title = {FenceBox: A Platform for Defeating Adversarial Examples with Data Augmentation Techniques},
author = {Han Qiu and Yi Zeng and Tianwei Zhang and Yong Jiang and Meikang Qiu},
journal= {arXiv preprint arXiv:2012.01701},
year = {2020}
}
备注
12 pages, 3 figures