利用高斯混合变分自编码器抵御对抗攻击
机器学习
2018-12-11 v2 密码学与安全
机器学习
摘要
深度神经网络易受对抗攻击的弱点构成了一个重大的理论与实际挑战。所有旨在增强分类器以抵御此类攻击的努力都收效有限。由于将“对抗样本”与“欺骗样本”共同考虑时存在困难，迄今为止这两类深度网络易受损的样本一直是被分别应对的。在本工作中，我们展示了如何在一个统一框架下同时解决二者。我们将判别模型与生成模型相结合，使得对抗目标产生冲突。我们的模型具有变分自编码器的形式，并在潜向量上采用高斯混合先验。先验分布的每个混合分量对应于数据中的一个类别。这使我们能够执行选择性分类，从而拒绝对抗样本而非将其误分类。我们的方法天然地提供了一种在半监督场景下学习选择性分类器的方式，该分类器同样能够抵御对抗攻击。我们还展示了如何对拒收的对抗样本进行重新分类。
引用
@article{arxiv.1806.00081,
title = {Resisting Adversarial Attacks using Gaussian Mixture Variational Autoencoders},
author = {Partha Ghosh and Arpan Losalka and Michael J Black},
journal= {arXiv preprint arXiv:1806.00081},
year = {2018}
}
备注
Proc. AAAI 2019