REGroup：用于鲁棒预测的生成式分类器排序聚合集成
计算机视觉与模式识别
2021-11-25 v2 机器学习
摘要
深度神经网络常因易受对抗攻击而受到批评。大多数成功的防御策略采用对抗训练或随机输入变换，这通常需要重新训练或微调模型以实现合理的性能。在这项工作中，我们对预训练 DNN 的中间表示进行了研究，得出了一项有趣的发现，指向对对抗攻击的内在鲁棒性。我们发现，通过统计刻画中间层对干净训练样本的神经响应，可以学习到一个生成式分类器。多个此类基于中间层的分类器，在聚合后，对对抗攻击展现出意想不到的鲁棒性。具体而言，我们设计了这些生成式分类器的集成，通过基于 Borda 计数的共识对其预测进行排序聚合。我们提出的方法仅使用干净训练数据的子集和预训练模型，且与网络架构或对抗攻击生成方法无关。我们进行了大量实验，以确立我们的防御策略在 ImageNet 验证集上达到了 SOTA 性能。
引用
@article{arxiv.2006.10679,
title = {REGroup: Rank-aggregating Ensemble of Generative Classifiers for Robust Predictions},
author = {Lokender Tiwari and Anish Madan and Saket Anand and Subhashis Banerjee},
journal= {arXiv preprint arXiv:2006.10679},
year = {2021}
}
备注
WACV,2022. Project Page : https://lokender.github.io/REGroup.html