ViM:基于虚拟逻辑匹配的分布外检测方法
计算机视觉与模式识别
2022-03-22 v1
摘要
大多数现有的分布外(OOD)检测算法依赖于单一输入来源:特征、逻辑值或 softmax 概率。然而,OOD 样本的极大多样性使得此类方法脆弱。有些 OOD 样本在特征空间中易识别而在逻辑空间中难区分,反之亦然。受此观察启发,我们提出一种名为虚拟逻辑匹配(ViM)的新型 OOD 评分方法,其结合了来自特征空间的类无关分数与分布内(ID)类相关逻辑值。具体而言,从特征相对于主空间的残差生成代表虚拟 OOD 类的额外逻辑值,然后通过常数缩放与原始逻辑值匹配。softmax 后该虚拟逻辑值的概率即为 OOD 程度的指示。为便于学术界评估大规模 OOD 检测,我们创建了用于 ImageNet-1K 的新 OOD 数据集,其为人工标注且规模为现有数据集的 8.8 倍。我们进行了包括 CNN 和视觉 transformer 在内的广泛实验,以证明所提 ViM 分数的有效性。特别地,使用 BiT-S 模型,我们的方法在四个困难 OOD 基准上取得平均 AUROC 90.91%,领先最佳基线 4%。代码与数据集见 https://github.com/haoqiwang/vim。
引用
@article{arxiv.2203.10807,
title = {ViM: Out-Of-Distribution with Virtual-logit Matching},
author = {Haoqi Wang and Zhizhong Li and Litong Feng and Wayne Zhang},
journal= {arXiv preprint arXiv:2203.10807},
year = {2022}
}
备注
CVPR 2022