基于纠错输出码挑战 DNN 的对抗鲁棒性
密码学与安全
2020-10-12 v2 机器学习
摘要
对抗样本的存在及其极易被生成的事实引发了关于深度学习系统的诸多安全担忧，推动研究者开发合适的防御机制。近期有人提出采用基于纠错输出码(ECOC)的网络，以在白盒设定下抵御对抗样本的生成。本文对 ECOC 方法所达成的对抗鲁棒性进行了深入探究。为此，我们提出了一种专为多标签分类架构（如基于 ECOC 的架构）设计的新型对抗攻击，并应用了两种已有攻击。与先前发现相反，我们的分析揭示基于 ECOC 的网络可通过对输入引入微小对抗扰动而被相当轻易地攻击。此外，对抗样本可被生成为使预测目标类具有极高概率，从而难以利用预测置信度来检测它们。我们的发现由在 MNIST、CIFAR-10 和 GTSRB 分类任务上获得的实验结果所证实。
引用
@article{arxiv.2003.11855,
title = {Challenging the adversarial robustness of DNNs based on error-correcting output codes},
author = {Bowen Zhang and Benedetta Tondi and Xixiang Lv and Mauro Barni},
journal= {arXiv preprint arXiv:2003.11855},
year = {2020}
}
备注
This paper is accepted by Security and Communication Networks