中文

GROOD:梯度感知的异常分布检测

计算机视觉与模式识别 2025-09-18 v3

摘要

异常分布(OOD)检测对于确保深度学习模型在实际应用中的可靠性至关重要。现有方法通常 focus on feature representations 或 output-space analysis,常假设这些空间的分布或利用相对于模型参数的梯度范数。然而,这些方法在区分接近OOD样本方面困难,常需大量微调超参数,限制了其实用性。在本工作中,我们提出了GRadient-aware Out-Of-Distribution detection(GROOD),一种方法从合成样本推导出 OOD原型,并直接从 In-distribution(ID)训练数据中计算类别原型。通过分析关于人为OOD原型的 nearest-class-prototype loss函数的梯度,我们的 approach 能够在ID和OOD样本之间实现明确的分离。实验评估表明,来自OOD原型的梯度增强了ID和OOD数据之间的区分能力,在ImageNet-1k上超越了既定的基线,尤其在鲁棒性方面。这些发现突显了梯度方法和原型驱动方法在深度神经网络中推进 OOD检测潜力的前景。

关键词

引用

@article{arxiv.2312.14427,
  title  = {GROOD: GRadient-Aware Out-of-Distribution Detection},
  author = {Mostafa ElAraby and Sabyasachi Sahoo and Yann Pequignot and Paul Novello and Liam Paull},
  journal= {arXiv preprint arXiv:2312.14427},
  year   = {2025}
}

备注

Accepted to Transactions on Machine Learning Research (TMLR) 2025. 12 pages, 5 figures, 7 tables