网络矩：扩展与稀疏光滑攻击
机器学习
2020-06-23 v1 密码学与安全
机器学习
摘要
深度神经网络（DNNs）的卓越性能极大地加强了旨在从理论上分析其有效性的研究脉络。这引发了关于 DNN 对含噪输入反应的研究，即开发对抗性输入攻击以及使 DNN 对这些攻击具有鲁棒性的策略。为此，本文推导了受高斯输入的小规模分段线性（PL）网络（仿射、ReLU、仿射）的一阶与二阶矩（均值与方差）的精确解析表达式。特别地，我们将 Bibi 等人的二阶矩表达式推广到任意输入高斯分布，去除了零均值假设。我们证明新的方差表达式可被高效近似，与 Bibi 等人的初步结果相比得到更紧的方差估计。此外，我们通过实验表明这些表达式在更深 PL-DNN 的简单线性化下是紧的，并研究了线性化敏感性对矩估计精度的影响。最后，我们证明所推导的表达式可用于构造稀疏且光滑的高斯对抗攻击（目标与非目标），其往往能产生感知上可行的输入攻击。
引用
@article{arxiv.2006.11776,
title = {Network Moments: Extensions and Sparse-Smooth Attacks},
author = {Modar Alfadly and Adel Bibi and Emilio Botero and Salman Alsubaihi and Bernard Ghanem},
journal= {arXiv preprint arXiv:2006.11776},
year = {2020}
}