中文

SELFOOD:基于学习排序的自监督分布外检测

计算与语言 2023-05-25 v1

摘要

使用交叉熵损失(CE loss)训练的深度神经分类器常存在校准不良的问题,由此催生了分布外(OOD)检测任务。传统的监督式 OOD 检测方法需要对分布内和分布外样本进行昂贵的人工标注。为解决标注瓶颈,我们提出 SELFOOD,一种仅需分布内样本作为监督的自监督 OOD 检测方法。我们将 OOD 检测视为文档间标签内(IDIL)排序问题,并使用我们称为 IDIL 损失的成对排序损失训练分类器。具体而言,给定一组分布内文档及其标签,对于每个标签,我们训练分类器使属于该标签的文档的 softmax 分数排名高于属于其他标签的文档分数。与 CE 损失不同,当达到所需的置信度排序时,我们的 IDIL 损失函数变为零,并且梯度被反向传播以降低与错误标签相关的概率,而非持续增加正确标签的概率。在多个分类数据集上结合若干分类器的大量实验证明了我们的方法在粗粒度和细粒度设定下的有效性。

关键词

引用

@article{arxiv.2305.14696,
  title  = {SELFOOD: Self-Supervised Out-Of-Distribution Detection via Learning to Rank},
  author = {Dheeraj Mekala and Adithya Samavedhi and Chengyu Dong and Jingbo Shang},
  journal= {arXiv preprint arXiv:2305.14696},
  year   = {2023}
}