通过非线性降维检测对抗样本
机器学习
2019-05-02 v2 密码学与安全
机器学习
摘要
深度神经网络易受对抗样本的攻击，即旨在误导分类的经过精心扰动的输入。本工作提出一种基于结合非线性降维与密度估计技术的检测方法。我们的实证结果表明，所提方法能够有效检测由非自适应攻击者构造的对抗样本，即并非专门调优以绕过该检测方法的对抗样本。鉴于我们有前景的结果，我们计划在 future work 中将分析扩展到自适应攻击者。
引用
@article{arxiv.1904.13094,
title = {Detecting Adversarial Examples through Nonlinear Dimensionality Reduction},
author = {Francesco Crecchi and Davide Bacciu and Battista Biggio},
journal= {arXiv preprint arXiv:1904.13094},
year = {2019}
}
备注
European Symposium on Artificial Neural Networks, Computational Intelligence and Machine Learning (ESANN) 2019