针对可靠的 out-of-distribution 检测的人工知识原型细化
计算机视觉与模式识别
2025-10-28 v2 机器学习
摘要
out-of-distribution (OOD) 检测对于确保机器学习模型在实际应用中可靠性和安全性至关重要，因为它们常常面临训练期未见的数据分布。尽管取得了进展，现有方法常因对迷信关联的脆弱性而受到误导，导致鲁棒性受损。为此，我们提出了 SPROD，一种新颖的基于原型的人工知识 OOD 检测方法，旨在明确应对由未知迷信关联所构成的挑战。我们的后处理方法在无需额外数据或超参数调优的情况下细化类别原型，以减轻迷信特征的偏差影响，适用于多样化的 backbone 和 OOD 检测场景。我们进行了全面的迷信关联 OOD 检测基准测试，将方法与现有方法进行比较，结果在诸多具有挑战性的 OOD 数据集上均表现出优异，包括 CelebA、Waterbirds、UrbanCars、Spurious Imagenet 以及新引入的 Animals MetaCoCo。平均而言，SPROD 在 AUROC 上的提升幅度为 4.8%，在 FPR@95 上的提升幅度为 9.4%。
引用
@article{arxiv.2506.23881,
title = {Spurious-Aware Prototype Refinement for Reliable Out-of-Distribution Detection},
author = {Reihaneh Zohrabi and Hosein Hasani and Mahdieh Soleymani Baghshah and Anna Rohrbach and Marcus Rohrbach and Mohammad Hossein Rohban},
journal= {arXiv preprint arXiv:2506.23881},
year = {2025}
}
备注
Accepted at NeurIPS 2025