神经网络的梯度对抗训练

我们提出梯度对抗训练，一种可应用于不同机器学习问题的辅助深度学习框架。在梯度对抗训练中，我们利用一种先验信念：在许多情形下，同步的梯度更新应在统计上彼此不可区分。我们使用一个辅助网络来分类梯度张量的来源以强制这种一致性，而主网络除执行基于标准的任务训练外，还作为该辅助网络的对抗者。我们展示了梯度对抗训练在三种不同场景中的使用：（1）作为对抗样本的一种防御，我们对梯度张量分类并将其调整为与其对应样本类别无关；（2）对于知识蒸馏，我们对来自学生或教师网络的梯度张量做二分类，并调整学生梯度张量以模仿教师梯度张量；（3）对于多任务学习，我们对来自不同任务损失函数的梯度张量分类并调整它们使其统计上不可区分。对于这三种场景，我们都展示了梯度对抗训练过程的潜力。具体而言，梯度对抗训练提升了网络对对抗攻击的鲁棒性，相比软目标能更好地将知识从教师网络蒸馏到学生网络，并通过对齐由任务特定损失函数导出的梯度张量来促进多任务学习。总体而言，我们的实验表明梯度张量包含关于所训练任务的潜在信息，并且当通过辅助网络以对抗化方式智能引导时可支持多样的机器学习问题。