局部误差深度学习中流形平滑度与对抗脆弱性的关系

人工神经网络可以取得令人印象深刻的性能，甚至在某些特定任务中超越人类。然而，与生物大脑不同，人工神经网络在各种对抗攻击下会受到感官输入中微小扰动的困扰。因此有必要研究对抗脆弱性的根源。在此，我们建立了隐藏表示的几何（流形视角）与深度网络泛化能力之间的基本关系。为此，我们选取一个由局部误差训练的深度神经网络，进而通过流形维度、流形平滑度与泛化能力分析训练网络的涌现性质。为探索对抗样本的影响，我们考虑独立高斯噪声攻击与快速梯度符号法（FGSM）攻击。我们的研究揭示，高泛化精度要求隐藏表示的特征谱呈相对快速的幂律衰减。在高斯攻击下，泛化精度与幂律指数之间的关系是单调的，而在FGSM攻击下观察到非单调行为。我们的实证研究为最终在对抗攻击下对对抗脆弱性作出机制性解释提供了一条路径。