对抗噪声对（近）随机神经网络是线性可分的

对抗样本通常针对特定输入与特定模型生成，在神经网络中普遍存在。本文揭示了对抗噪声被放在一起时的一个惊人性质：若配以相应标签，由一步梯度方法构造的对抗噪声是线性可分的。我们针对随机初始化条目的两层网络以及参数未远离初始化的神经正切核（neural tangent kernel）设定，从理论上证明了该性质。证明思路在于表明标签信息可有效反向传播至输入，同时保持线性可分性。我们的理论与实验证据表明，用训练数据的对抗噪声训练的线性分类器能很好地区分测试数据的对抗噪声，说明对抗噪声实际上向原始数据分布注入了分布级扰动。此外，我们经验性地表明，当上述条件被破坏时对抗噪声的线性可分性可能减弱，但其仍远比原始特征易于分类。