我们可以忽略标签吗？无标签分布外检测中的挑战
机器学习
2025-10-08 v2 人工智能
系统与控制
系统与控制
摘要
分布外（OOD）检测方法近期日益受到关注，作为安全关键自主系统的核心要素。OOD 检测的主要目标是拒绝可能导致不可预测错误并威胁安全的无效输入。由于标签数据的成本，近期研究探索了自监督学习（SSL）OOD 检测、无标签 OOD 检测和零样本 OOD 检测的可行性。本文从信息论视角识别了一套理论保证无标签 OOD 检测算法失败的条件。这些条件在处理真实数据的所有 OOD 任务中都会出现：i) 我们提供了当学习目标与分布内标签之间互信息为零时（即“标签盲区”）的无标签 OOD 检测失败的理论证明；ii) 我们定义了新的 OOD 任务——相邻 OOD 检测——用于测试标签盲区，并纠正了所有 OOD 检测基准中被忽略的安全差距；iii) 我们进行实验表明，现有无标签 OOD 方法在我们的标签盲区理论所述条件下会失败，并分析了对未来无标签 OOD 方法研究的影响。
引用
@article{arxiv.2504.14704,
title = {Can We Ignore Labels In Out of Distribution Detection?},
author = {Hong Yang and Qi Yu and Travis Desell},
journal= {arXiv preprint arXiv:2504.14704},
year = {2025}
}