对抗训练是否需要全部训练数据?

深度神经网络(DNNs)正被用于解决许多领域中的广泛问题,包括自动驾驶汽车和医学影像等安全关键领域。DNNs 易遭受对抗攻击的脆弱性。过去几年中,已提出众多方法通过对网络进行对抗训练来解决此问题。几乎所有方法都为整个训练数据集生成对抗样本,从而大幅增加了训练时间。我们表明,通过仅使用训练数据的子集进行对抗训练,可以减少任意对抗训练算法的训练时间。为选择该子集,我们从训练数据中筛选出易受对抗攻击的样本。我们对所有训练样本执行简单的对抗攻击以筛选此子集。在该攻击中,我们向每个像素添加小扰动并向输入图像添加若干网格线。我们在易受对抗攻击的子集上进行对抗训练,并将其与在整个数据集上进行的普通训练相混合。我们的结果表明,当我们将这种与具体方法无关的方法接入 FGSM 时,在 MNIST 上实现了 3.52 倍的加速,在 CIFAR-10 数据集上实现了 1.98 倍的加速,且鲁棒精度相当。我们还在最先进的 Free 对抗训练上测试了我们的方法,在 ImageNet 数据集上以鲁棒精度微小下降为代价实现了 1.2 倍的训练时间加速。