生成式分类器对对抗攻击是否更鲁棒？
机器学习
2019-05-28 v3 机器学习
摘要
研究深度神经网络分类器针对对抗者的鲁棒性正引起日益浓厚的兴趣，先进的攻击与防御技术均在积极发展中。然而，近期大多数工作聚焦于判别分类器，其仅对给定输入下标签的条件分布建模。本文提出并研究了深度贝叶斯分类器，其利用条件深度生成模型改进经典的朴素贝叶斯。我们进一步开发了针对对抗样本的检测方法，其拒绝在生成模型下似然较低的输入。实验结果表明，深度贝叶斯分类器比深度判别分类器更鲁棒，且所提检测方法对许多近期提出的攻击是有效的。
引用
@article{arxiv.1802.06552,
title = {Are Generative Classifiers More Robust to Adversarial Attacks?},
author = {Yingzhen Li and John Bradshaw and Yash Sharma},
journal= {arXiv preprint arXiv:1802.06552},
year = {2019}
}
备注
ICML 2019