面向黑盒对抗样本检测：一种基于数据重建的方法
计算机视觉与模式识别
2023-06-06 v1
摘要
对抗样本检测被认为是一种有效的对抗防御方法。黑盒攻击作为更现实的威胁，已催生多种基于黑盒对抗训练的防御方法，然而在对抗样本检测中并未受到足够关注。本文通过界定黑盒对抗样本检测（BAD）问题填补了这一空白。在所引入BAD设定下的数据分析表明：（1）现有检测器无法应对黑盒场景；（2）从数据视角探索BAD解决方案具有潜力。为求解BAD问题，我们提出一种基于数据重建的对抗样本检测方法。具体而言，我们使用变分自编码器（VAE）捕获正常样本的像素与频率表示，然后利用重建误差检测对抗样本。与现有检测方法相比，所提方法在BAD中取得了显著更优的检测性能，有助于推动基于对抗样本检测的防御方案在真实世界模型中的部署。
引用
@article{arxiv.2306.02021,
title = {Towards Black-box Adversarial Example Detection: A Data Reconstruction-based Method},
author = {Yifei Gao and Zhiyu Lin and Yunfan Yang and Jitao Sang},
journal= {arXiv preprint arXiv:2306.02021},
year = {2023}
}
备注
14 pages, 8 figures, 13 tables