用于应对基于梯度的对抗攻击不确定性的集成噪声模拟
机器学习
2020-01-28 v1 密码学与安全
机器学习
摘要
基于梯度的神经网络对抗攻击可以通过多种方式构造，改变攻击算法依赖梯度的方式、用于构造攻击的网络架构，或两者兼而有之。最近大多数工作集中于在攻击者行为无不确定性的情况下防御分类器（即，预期攻击者使用特定网络架构生成特定攻击）。然而，如果攻击者不能保证以某种方式行为，文献中缺乏设计战略性防御的方法。我们通过使用基于各种分类器梯度的多种攻击算法模拟攻击者的噪声扰动来填补这一空白。我们使用以模拟噪声训练的预处理去噪自编码器（DAE）防御进行分析。与未努力处理不确定性的情况相比，我们使用提出的集成训练防御展示了攻击后准确率的显著提升。
引用
@article{arxiv.2001.09486,
title = {Ensemble Noise Simulation to Handle Uncertainty about Gradient-based Adversarial Attacks},
author = {Rehana Mahfuz and Rajeev Sahay and Aly El Gamal},
journal= {arXiv preprint arXiv:2001.09486},
year = {2020}
}
备注
6 pages, 4 figures