基于梯度的对抗样本与分布外检测

我们提出利用梯度来检测对抗样本和分布外样本。我们在梯度生成中引入混淆标签——不同于训练期间所见正常标签的标签——以探测神经网络的有效表达能力。梯度刻画了模型为恰当表示给定输入所需的改变量，从而提供关于由网络架构特性及训练数据所确立的模型表征能力的洞察。通过引入不同设计的标签，我们消除了推理期间梯度生成对真实标签的依赖。我们展示了这种基于梯度的方法能够基于模型的有效表达能力捕获输入中的异常，无需超参数调优或额外处理，并且在对抗样本和分布外检测上优于最先进的方法。