学习增强分布以进行分布外检测
机器学习
2023-12-27 v2
摘要
开放世界分类系统应当识别分布外（OOD）数据，其标签不同于分布内（ID）样本的标签，这推动了近期关于 OOD 检测的研究。尽管先进工作取得了可喜进展，但由于事先缺乏对未见 OOD 数据的了解，它们仍可能在开放世界中失效。尽管人们可以获取用于模型训练的辅助 OOD 数据（与未见数据不同），但此类辅助数据在开放世界中如何发挥作用仍有待分析。为此，我们从学习理论视角深入探究该问题，发现辅助 OOD 数据与未见真实 OOD 数据之间的分布差异是影响开放世界检测性能的关键。相应地，我们提出分布增强的 OOD 学习（DAL），通过构建一个以辅助 OOD 分布为中心、在 Wasserstein 球内包含所有分布的 OOD 分布集，来缓解 OOD 分布差异。我们论证了在该球内对最差 OOD 数据训练得到的预测器能够缩小 OOD 分布差异，从而仅给定辅助 OOD 数据时提升开放世界检测性能。我们在具有代表性的 OOD 检测设定下进行了广泛评估，证明了我们的 DAL 优于先进的同类方法。
引用
@article{arxiv.2311.01796,
title = {Learning to Augment Distributions for Out-of-Distribution Detection},
author = {Qizhou Wang and Zhen Fang and Yonggang Zhang and Feng Liu and Yixuan Li and Bo Han},
journal= {arXiv preprint arXiv:2311.01796},
year = {2023}
}