一种基于噪声敏感性分析的深度神经网络测试优先化技术
计算机视觉与模式识别
2019-01-23 v3 机器学习
机器学习
摘要
深度神经网络（DNNs）已广泛应用于自然语言处理、计算机视觉和图像识别等领域。但若干研究表明，深度神经网络很容易被带有某些扰动的人工样本愚弄，这些样本被广泛称为对抗样本。对抗样本可用于攻击深度神经网络或提升其鲁棒性。生成对抗样本的一种常见方式是先生成一些噪声，然后将其加入原始样本。在实践中，不同样本具有不同的噪声敏感性。为生成有效的对抗样本，可能对低噪声敏感性样本添加大量噪声，这会使对抗样本变得无意义。本文中，我们提出一种基于噪声敏感性分析的测试优先化技术，依据样本的噪声敏感性挑出样本。我们在四个图像集和两个 DNN 模型上构建实验验证我们的方法，表明样本对噪声敏感且我们的方法能有效按噪声敏感性挑出样本。
引用
@article{arxiv.1901.00054,
title = {A Noise-Sensitivity-Analysis-Based Test Prioritization Technique for Deep Neural Networks},
author = {Long Zhang and Xuechao Sun and Yong Li and Zhenyu Zhang},
journal= {arXiv preprint arXiv:1901.00054},
year = {2019}
}