主导模式：深埋于深度神经网络中的关键特征
机器学习
2021-06-01 v1 密码学与安全
计算机视觉与模式识别
摘要
在本文中，我们发现深度神经网络（DNNs）中存在隐藏的关键特征，这些特征不可感知但却能实际主导 DNN 的输出。我们称这些特征为主导模式。顾名思义，对于一张自然图像，如果我们将某个 DNN 的主导模式加到其上，该 DNN 的输出就由主导模式而非原始图像决定，即 DNN 的预测与主导模式的预测相同。我们设计了一种通过追求特征空间中的不敏感性来寻找此类模式的算法。主导模式的一个直接应用是通用对抗扰动（UAPs）。数值实验表明，所发现的主导模式击败了最先进的 UAP 方法，尤其在无标签设定下。此外，主导模式被证明有潜力攻击 DNN 共享相同骨干网络的下游任务。我们主张，DNN 特定的主导模式揭示了 DNN 的一些本质属性，并对其特征分析与鲁棒性增强具有重要意义。
引用
@article{arxiv.2105.15057,
title = {Dominant Patterns: Critical Features Hidden in Deep Neural Networks},
author = {Zhixing Ye and Shaofei Qin and Sizhe Chen and Xiaolin Huang},
journal= {arXiv preprint arXiv:2105.15057},
year = {2021}
}