分布标签在零分布检测中的作用时机与方式
机器学习
2024-05-30 v1
摘要
检测偏离训练分布的数据点对于确保可靠的机器学习至关重要。广泛的研究致力于解决这一挑战,涵盖从经典异常检测技术到当代零分布(OOD)检测方法。虽然零分布检测通常依赖于从带标签的分布内(ID)数据集进行监督学习,但异常检测可能将整个ID数据视为单一类别并忽略ID标签。这种根本性差异引出了一个尚未得到严格探索的重要问题:ID标签在零分布检测中起什么作用?本文通过图论方法填补了这一空白,理论性地描绘了ID标签对零分布检测影响的形式。我们的方法的关键在于通过图上的谱分解对数据表示进行特征化。利用这些表示,我们建立了可证明的误差界限,比较了带标签与无标签的零分布检测性能,揭示了实现改进零分布检测的条件。最后,我们在模拟数据和真实数据集上进行经验性结果,验证了理论保证并强化了我们的见解。代码已公开于 https://github.com/deeplearning-wisc/id_label。
引用
@article{arxiv.2405.18635,
title = {When and How Does In-Distribution Label Help Out-of-Distribution Detection?},
author = {Xuefeng Du and Yiyou Sun and Yixuan Li},
journal= {arXiv preprint arXiv:2405.18635},
year = {2024}
}
备注
ICML 2024