通过专用深度神经网络集成中的多样性实现对抗鲁棒性
机器学习
2020-05-19 v1 密码学与安全
机器学习
摘要
我们旨在展示 CNN 集成中的多样性对黑盒对抗样本检测以及削弱白盒对抗攻击生成的影响。为此，我们提出了一种由多样化专用 CNN 组成的集成以及一种简单的投票机制。该集成中的多样性在对抗样本与干净样本的预测置信度之间制造了差距，使对抗样本可被检测。我们随后分析了此类专用集成中的多样性如何降低黑盒和白盒对抗样本的风险。使用 MNIST 和 CIFAR-10，我们凭经验验证了我们的集成检测大部分知名黑盒对抗样本的能力，这导致对抗样本风险率显著下降，代价是干净样本风险率小幅上升。此外，我们表明，与原始 CNN 和原始 CNN 集成相比，我们的集成生成白盒攻击的成功率显著降低，突出了多样性在构建更鲁棒模型的集成中的有益作用。
引用
@article{arxiv.2005.08321,
title = {Toward Adversarial Robustness by Diversity in an Ensemble of Specialized Deep Neural Networks},
author = {Mahdieh Abbasi and Arezoo Rajabi and Christian Gagne and Rakesh B. Bobba},
journal= {arXiv preprint arXiv:2005.08321},
year = {2020}
}
备注
Published by Springer in the Lecture Notes in Artificial Intelligence