理解与改进集成对抗防御
机器学习
2023-11-03 v2
摘要
集成策略在对抗防御中已变得流行，其通过训练多个基分类器以协作方式防御对抗攻击。尽管有经验上的成功，关于为何对抗训练分类器的集成比单一分类器更鲁棒的理论解释仍不清楚。为填补此空白，我们发展了一种专门用于理解集成对抗防御的误差理论，证明在对抗防御场景下对困难样本集具有可证明的 0-1 损失降低。在该理论指导下，我们提出一种改进集成对抗防御的有效方法，称为交互式全局对抗训练（iGAT）。该方案包括 (1) 一个概率分配规则，将全局上对集成具有挑战性的对抗样本选择性分配给不同基分类器；以及 (2) 一个正则化项以补救基分类器的最严重弱点。在多种现有集成对抗防御技术上测试，iGAT 能提升其性能，在白盒与黑盒攻击下使用 CIFAR10 和 CIFAR100 数据集评估最高提升达 17%。
引用
@article{arxiv.2310.18477,
title = {Understanding and Improving Ensemble Adversarial Defense},
author = {Yian Deng and Tingting Mu},
journal= {arXiv preprint arXiv:2310.18477},
year = {2023}
}