中文

Mahalanobis++:通过特征归一化改进分布外检测

机器学习 2025-05-26 v1 计算机视觉与模式识别

摘要

检测分布外(OOD)样本对于在安全关键应用中部署可靠的机器学习模型是一项重要任务。基于马氏距离应用于预 logit 特征的事后方法是 ImageNet 规模 OOD 检测中最有效的方法之一,但它们在不同模型上的性能差异显著。我们将这种不一致性归因于特征范数的强烈变化,表明马氏距离估计所依赖的高斯假设遭到严重违反。我们证明,对特征进行简单的 2\ell_2 归一化可以有效缓解这一问题,更好地契合数据服从共享协方差矩阵的正态分布的前提。在涵盖多种架构和预训练方案的 44 个模型上进行的广泛实验表明,2\ell_2 归一化显著且一致地改进了传统的基于马氏距离的方法,并优于其他近期提出的 OOD 检测方法。

关键词

引用

@article{arxiv.2505.18032,
  title  = {Mahalanobis++: Improving OOD Detection via Feature Normalization},
  author = {Maximilian Mueller and Matthias Hein},
  journal= {arXiv preprint arXiv:2505.18032},
  year   = {2025}
}