基于子空间技术与特征概率建模的分布外检测
机器学习
2020-12-09 v1
摘要
本文提出了一种在深度神经网络（DNN）中检测分布外（OOD）样本的原则性方法。在深度特征上对概率分布进行建模近期已成为一种有效且计算成本低廉的 DNN OOD 样本检测方法。然而，DNN 在任意给定层产生的特征并未完全占据相应的高维特征空间。我们对高维特征应用线性统计降维技术和非线性流形学习技术，以捕获由特征张成的真实子空间。我们假设这种低维特征嵌入可以缓解维数灾难，并增强任何基于特征的方法以实现更高效和有效的性能。在不确定性估计和 OOD 的背景下，我们表明从该低维子空间上学习到的分布中获得的似然分数对 OOD 检测更具判别力。我们还表明，特征重构误差（即原始特征与其嵌入逆像之差的 范数）对 OOD 检测非常有效，在某些情况下优于似然分数。我们通过在常用图像数据集（如 CIFAR10、CIFAR100 和 SVHN）上使用流行的 DNN 架构检测 OOD 图像，展示了我们方法在图像特征上的优势。
引用
@article{arxiv.2012.04250,
title = {Out-Of-Distribution Detection With Subspace Techniques And Probabilistic Modeling Of Features},
author = {Ibrahima Ndiour and Nilesh Ahuja and Omesh Tickoo},
journal= {arXiv preprint arXiv:2012.04250},
year = {2020}
}