具备数据多样性的集成防御：弱相关性意味着强鲁棒性
机器学习
2021-06-08 v1
摘要
本文中，我们提出一种基于滤波器的深度神经网络(DNN)集成框架以防御对抗攻击。该框架构建由具有差异化预处理滤波器的DNN组成的子模型集成。从DNN鲁棒性的理论视角，我们认为在滤波器高质量的假设下，滤波器敏感性的相关性越弱，集成模型往往越鲁棒，且这一点被基于迁移的攻击实验所证实。相应地，我们提出一种选择具有较小皮尔逊(Pearson)相关系数的特定滤波器的原则，其确保了DNN接收输入的多样性，以及整个框架对抗攻击的有效性。我们的集成模型比以往如对抗训练等防御方法构建的模型更鲁棒，且在攻击半径较大时甚至可与经典的对抗训练DNN集成相竞争。
引用
@article{arxiv.2106.02867,
title = {Ensemble Defense with Data Diversity: Weak Correlation Implies Strong Robustness},
author = {Renjue Li and Hanwei Zhang and Pengfei Yang and Cheng-Chao Huang and Aimin Zhou and Bai Xue and Lijun Zhang},
journal= {arXiv preprint arXiv:2106.02867},
year = {2021}
}