随机脉冲与对抗样本防御的系统化评估
机器学习
2020-01-22 v4 人工智能
密码学与安全
机器学习
摘要
图像分类器常受对抗样本之苦,后者通过对输入图像策略性地添加少量噪声以诱使分类器误分类。多年来,许多防御机制被提出,不同研究者对其有效性做出了看似矛盾的论断。我们给出了对可能对抗模型的分析,并提出了一种比较不同防御机制的评估框架。作为该框架的一部分,我们引入了一种更强大且更现实的对手策略。此外,我们提出了一种称为随机脉冲(Random Spiking, RS)的新防御机制,其推广了 dropout 并在训练过程中以受控方式引入随机噪声。在我们所提框架下的评估表明,RS 相比许多现有方案对对抗样本提供了更好的保护。
引用
@article{arxiv.1812.01804,
title = {Random Spiking and Systematic Evaluation of Defenses Against Adversarial Examples},
author = {Huangyi Ge and Sze Yiu Chau and Bruno Ribeiro and Ninghui Li},
journal= {arXiv preprint arXiv:1812.01804},
year = {2020}
}
备注
To be appear in ACM CODESPY 2020