WDiscOOD:基于白化线性判别分析的分布外检测
计算机视觉与模式识别
2023-08-31 v4 人工智能
机器学习
摘要
深度神经网络在面对已知概念之外的数据时,容易产生过度自信却错误的预测。这一挑战凸显了在开放世界中检测分布外(OOD)样本的重要性。本文中,我们提出一种基于类特定与类无关信息的特征空间OOD检测分数。具体而言,该方法利用白化线性判别分析(Whitened Linear Discriminant Analysis)将特征投影到两个子空间——判别子空间与残差子空间——其中分布内(ID)类别分别被最大化分离和紧密聚类。OOD分数随后由输入数据在两个子空间中对ID模式的偏离程度组合确定。我们提出的方法名为WDiscOOD,其在大规模ImageNet-1k基准上得到验证,使用了涵盖多种分布偏移的六个OOD数据集。WDiscOOD在具有不同骨干架构的深度分类器(包括CNN和vision transformer)上展现出优越性能。此外,我们还表明WDiscOOD能更有效地检测以对比目标(包括监督对比损失和多模态对比损失)训练的表示空间中的新概念。
引用
@article{arxiv.2303.07543,
title = {WDiscOOD: Out-of-Distribution Detection via Whitened Linear Discriminant Analysis},
author = {Yiye Chen and Yunzhi Lin and Ruinian Xu and Patricio A. Vela},
journal= {arXiv preprint arXiv:2303.07543},
year = {2023}
}
备注
Accepted by ICCV 2023. Code is available at: https://github.com/ivalab/WDiscOOD.git