在 OOD 检测中，如果输入被扩展会怎样？
机器学习
2024-10-29 v2
摘要
异常分布 (OOD) 检测旨在识别来自未知类别的 OOD 输入，这对于在开放世界中可靠部署机器学习模型至关重要。提出了各种评分函数来区分 OOD 数据与 in-distribution (ID) 数据。然而，现有方法通常专注于从单个输入中挖掘判别信息，这隐含地限制了其表示维度。在本工作中，我们提出了一种新视角，即利用对输入空间施加不同常见腐败来扩展其维度。我们发现一种称为 confidence mutation 的有趣现象：在腐败作用下，OOD 数据的置信度显著下降，而 ID 数据由于语义特征的抗性，表现出更高的置信度期望。基于此，我们正式化了一种新评分方法，即 Confidence aVerage (CoVer)，通过简单地对来自不同腐败输入和原始输入的得分进行平均，可捕捉 OOD 和 ID 分布之间的动态差异，使检测任务中的分布更具可分性。对 CoVer 的大量实验和分析表明其有效性。代码已公开于 https://github.com/tmlr-group/CoVer。
引用
@article{arxiv.2410.18472,
title = {What If the Input is Expanded in OOD Detection?},
author = {Boxuan Zhang and Jianing Zhu and Zengmao Wang and Tongliang Liu and Bo Du and Bo Han},
journal= {arXiv preprint arXiv:2410.18472},
year = {2024}
}
备注
accepted by NeurIPS 2024