基于噪声敏感性的神经网络节能鲁棒对抗样本检测
计算机视觉与模式识别
2021-07-06 v2
摘要
神经网络在计算机视觉中取得了卓越性能，但它们易受对抗样本的攻击。对抗样本是经精心扰动以欺骗分类网络、而在人眼看来未改变的输入。基于已有的对抗检测工作，我们提出一种为深度神经网络（DNN）增补检测器子网络的结构化方法。我们使用（ANS，对抗噪声敏感性），一种用于度量网络不同中间层对抗梯度的贡献的新指标。基于ANS值，我们将检测器附加到最敏感的层。在已有工作中，向DNN添加更复杂的检测器增加了模型的推理计算成本。相反，我们对DNN的结构化与策略性检测器添加降低了模型复杂度，同时使整体网络具备对抗鲁棒性。通过在MNIST、CIFAR-10和CIFAR-100上的全面白盒与黑盒实验，我们表明该方法提升了对抗样本检测的最先进鲁棒性。此外，我们通过在多种硬件可扩展CMOS加速器平台上的广泛能耗分析，验证了所提对抗检测方法论的能效。我们还展示了量化对所附检测器网络的影响。
引用
@article{arxiv.2101.01543,
title = {Noise Sensitivity-Based Energy Efficient and Robust Adversary Detection in Neural Networks},
author = {Rachel Sterneck and Abhishek Moitra and Priyadarshini Panda},
journal= {arXiv preprint arXiv:2101.01543},
year = {2021}
}
备注
Accepted in IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems (TCAD), 2021