面向表示与训练范式转移的异常分布检测系统性分析
机器学习
2026-05-19 v3 计算机视觉与模式识别
摘要
我们从表示中心视角，对异常分布 (OOD) 检测关键要素 (CSFs) 进行系统性基准测试。本研究涵盖 CNN 和 ViT backbone、多种训练范式、四个图像分类源数据集 (CIFAR-10、CIFAR-100、SuperCIFAR-100 和 TinyImageNet)，以及使用 CLIP 派生语义距离分组的 OOD 数据集（近、中、远三个层次）。为跨这些设置进行比较，我们采用多比较控制排名管道，识别在无阈值排序指标（AURC 和 AUGRC）下，统计上不可区分的获胜者主导的统计显著性 clique。主要经验发现是，竞争检测器家族更多取决于所学习的表示，而非仅基于得分设计。对于 CNN 和 ViT，简单概率得分在误分类检测中占主导地位。在 CNN 上，基于边际的得分在近 OOD 场景中最强，而几何感知得分如 NNGuide、fDBD 和 CTM 在转移严重程度增加时变得更具竞争力。在精调 ViT 上，重建和残差基准得分领跑。为解释这些排名变化，我们使用神经坍缩 (NC) 指标分析最后一层表示。结果在不同架构间保持一致：当表示更趋向于坍缩且更好地与分类器权重对齐时，原型和边界感知得分更有优势；而在较弱坍缩场景下，梯度和流形基准得分更受青睐。基于这些洞见，我们提出两个贡献：一种简单的 PCA-based 投影过滤程序可提升检测性能，一种利用从训练分类器计算的 NC 测量预测其竞争 OOD 检测器短list的方法，无需额外 OOD 数据。
引用
@article{arxiv.2511.11934,
title = {A Systematic Analysis of Out-of-Distribution Detection Under Representation and Training Paradigm Shifts},
author = {Claudio César Claros Olivares and Austin J. Brockmeier},
journal= {arXiv preprint arXiv:2511.11934},
year = {2026}
}