用于防御对抗样本随机组合集成方法
机器学习
2018-09-11 v2 密码学与安全
机器学习
摘要
许多深度学习算法可以被简单的对抗样本轻易欺骗。为解决现有防御的局限性，我们设计了一个概率框架，能以线性代价从单一模型生成指数级规模的模型集成。该框架利用神经网络的深度，并随机决定是否在层之间插入如 VAE 之类的噪声去除算子。我们通过实验展示了模型梯度在决定对抗样本可迁移性方面的重要作用，并利用这一结果证明可以训练具有有限对抗攻击可迁移性的模型。此外，我们提出了一种基于度量学习的检测方法，以检测那些无法清除恶意设计噪声的对抗样本。
引用
@article{arxiv.1808.06645,
title = {Stochastic Combinatorial Ensembles for Defending Against Adversarial Examples},
author = {George A. Adam and Petr Smirnov and David Duvenaud and Benjamin Haibe-Kains and Anna Goldenberg},
journal= {arXiv preprint arXiv:1808.06645},
year = {2018}
}