用于分布外与对抗检测的深度特征概率建模
机器学习
2019-09-27 v1 机器学习
摘要
我们提出一种在深度神经网络中检测分布外（OOD）与对抗样本的原则性方法。我们的方法在于，一旦训练完成，即用参数概率分布对各个层（深度特征）的输出建模。在推断时，计算深度特征相对于先前所学分布的对数似然，并用于导出不确定性估计，从而区分分布内样本与 OOD 样本。我们探索使用两类多元分布对深度特征建模——高斯与高斯混合——并研究精度与计算复杂度之间的权衡。我们通过在 MNIST 与 CIFAR10 数据集上利用流行 DNN 架构检测 OOD 图像与对抗生成图像，展示了该方法在图像特征上的益处。我们表明，更精确的特征分布建模可显著改进 OOD 与对抗样本检测；在 AUPR 与 AUROC 指标上提升达 12 个百分点。我们进一步表明，当应用于视频数据及相关时空特征时，我们的方法通过使用 UCF101 数据集与 C3D 网络在活动分类任务上检测对抗样本，仍极为有效。据我们所知，我们的方法是首个被报道可可靠检测白盒对抗帧构造（一种视频分类器的最先进对抗攻击）的方法论。
引用
@article{arxiv.1909.11786,
title = {Probabilistic Modeling of Deep Features for Out-of-Distribution and Adversarial Detection},
author = {Nilesh A. Ahuja and Ibrahima Ndiour and Trushant Kalyanpur and Omesh Tickoo},
journal= {arXiv preprint arXiv:1909.11786},
year = {2019}
}