用于分布外检测的标签平滑嵌入假说
机器学习
2021-02-11 v1 人工智能
机器学习
摘要
检测分布外(OOD)样本在许多应用中至关重要。我们提出一种无监督方法,利用关于分类模型在分布内样本上的中间激活的 -NN 密度估计来检测 OOD 样本。我们借助近期关于标签平滑的见解(称之为\emph{标签平滑嵌入假说}),并表明其一个推论是:当模型使用标签平滑训练时,-NN 密度估计器作为 OOD 检测方法在理论和经验上均表现更好。最后,我们展示了我们的方案优于许多 OOD 基线,并且为 -NN 密度估计检测 OOD 样本的能力提供了新的有限样本高概率统计结果。
引用
@article{arxiv.2102.05131,
title = {Label Smoothed Embedding Hypothesis for Out-of-Distribution Detection},
author = {Dara Bahri and Heinrich Jiang and Yi Tay and Donald Metzler},
journal= {arXiv preprint arXiv:2102.05131},
year = {2021}
}