将深度特征空间塑造为高斯混合分布以用于视觉分类

Softmax 交叉熵损失函数已被广泛用于训练各种任务的深度模型。在本工作中，我们提出了一种用于深度神经网络视觉分类的高斯混合损失函数。与 Softmax 交叉熵损失不同，我们的方法明确地将深度特征空间塑造为高斯混合分布。借助分类间隔和似然正则化，GM 损失同时促进了高分类性能和特征分布的精确建模。基于输入与训练集特征分布之间的差异，GM 损失可以很容易地用于区分异常输入，例如对抗样本。此外，理论分析表明，使用 GM 损失可以实现对称的特征空间，这使得模型能够稳健地抵御对抗攻击。所提出的模型可以轻松高效地实现，而无需使用额外的可训练参数。大量评估表明，所提出的方法不仅在图像分类上表现优异，而且在针对不同威胁模型下由强攻击生成的对抗样本的稳健检测上也表现出色。