GraN: 一种基于梯度范数的高效对抗样本与误分类样本检测器
机器学习
2020-04-21 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
深度神经网络(DNN)易受对抗样本及其他数据扰动的影响。尤其在DNN的安全关键应用中，检测误分类样本至关重要。当前最先进的检测方法要么需要比原始网络本身显著更多的运行时间，要么需要更多的参数。因此，本文提出GraN，一种时间和参数高效的方法，易于适应任何DNN。GraN基于DNN关于当前输入-输出组合损失的逐层梯度范数，可通过反向传播计算。GraN在众多问题设置上达到了最先进的性能。
引用
@article{arxiv.2004.09179,
title = {GraN: An Efficient Gradient-Norm Based Detector for Adversarial and Misclassified Examples},
author = {Julia Lust and Alexandru Paul Condurache},
journal= {arXiv preprint arXiv:2004.09179},
year = {2020}
}
备注
Accepted at ESANN 2020 (European Symposium on Artificial Neural Networks, Computational Intelligence and Machine Learning)