面向类外分布检测的自适应标签平滑
计算机视觉与模式识别
2024-10-10 v1
摘要
类外分布检测 (OOD) 旨在区分未知类别与已知类别，近日受到广泛关注。其主要挑战之一是在训练过程中无法获得未知类别的样本，有效策略是提高已知类别的性能。利用数据增强和更长的训练等有益策略是提高 OOD 检测性能的一种方式。然而，标签平滑作为一种有效的已知类别分类方法，会降低 OOD 检测性能，而这一现象正受到探索。本 paper 首先分析了标签平滑中固定且预定义的学习目标导致的最大概率和 logits 较小，从而进一步导致 OOD 检测性能下降的原因。为缓解此问题，我们提出了一种新型正则化方法，称为自适应标签平滑 (ALS)，其核心是将非真实类别推向相同的概率，而最大概率既不固定也不受限。广泛的实验结果在六个数据集上使用两种 backbone 表明，ALS 不仅有助于分类已知样本，还能在明显的边缘上区分未知样本。我们的代码将对公众开放。
引用
@article{arxiv.2410.06134,
title = {Adaptive Label Smoothing for Out-of-Distribution Detection},
author = {Mingle Xu and Jaehwan Lee and Sook Yoon and Dong Sun Park},
journal= {arXiv preprint arXiv:2410.06134},
year = {2024}
}