$n$-ML：通过拓扑 manipulated 分类器集成缓解对抗样本
计算机视觉与模式识别
2019-12-20 v1 密码学与安全
摘要
本文提出一种称为 -ML 的针对对抗样本的新防御方法，即通过对良性输入施加微小扰动以诱导分类器误分类的输入。受 版本编程启发，-ML 训练一个由 个分类器组成的集成，输入由集成中分类器的投票进行分类。然而，与先前此类方法不同，集成中的分类器经过专门训练以对对抗样本给出不同分类，使得对抗样本极难获得足够票数而被误分类。我们表明，-ML 在 MNIST、CIFAR10 和 GTSRB 数据集上大致保持了最先进模型的良性分类准确率，同时以比迄今已知最佳防御更好的鲁棒性抵御对抗样本，且在大多数情况下具有更低的分类时开销。
引用
@article{arxiv.1912.09059,
title = {$n$-ML: Mitigating Adversarial Examples via Ensembles of Topologically Manipulated Classifiers},
author = {Mahmood Sharif and Lujo Bauer and Michael K. Reiter},
journal= {arXiv preprint arXiv:1912.09059},
year = {2019}
}