基于贝叶斯神经网络的对抗样本检测
机器学习
2024-02-26 v3 计算机视觉与模式识别
机器学习
摘要
本文提出一种检测对抗样本的新框架，其动机在于观察到随机分量可改善预测器的平滑性，并便于模拟深度神经网络的输出分布。基于这些观察，我们提出一种新颖的贝叶斯对抗样本检测器（简称 BATer），以提升对抗样本检测性能。具体而言，我们研究自然样本与对抗样本在隐藏层输出上的分布差异，并提出利用贝叶斯神经网络的随机性来模拟隐藏层输出分布，并借助分布离散度检测对抗样本。贝叶斯神经网络的优势在于其输出具有随机性，而不含随机分量的深度神经网络不具备此类特性。在多个基准数据集上针对主流攻击的实证结果表明，所提 BATer 优于最先进的对抗样本检测器。
引用
@article{arxiv.2105.08620,
title = {Adversarial Examples Detection with Bayesian Neural Network},
author = {Yao Li and Tongyi Tang and Cho-Jui Hsieh and Thomas C. M. Lee},
journal= {arXiv preprint arXiv:2105.08620},
year = {2024}
}