SIO:合成的分布内数据有益于分布外检测
计算机视觉与模式识别
2023-03-28 v1 机器学习
摘要
构建可靠的分布外(OOD)检测器具有挑战性,通常需要在训练期间使用 OOD 数据。在本工作中,我们提出了一种数据驱动方法,其与现有工作不同且互补:我们不使用外部 OOD 数据,而是利用生成模型生成额外的合成分布内(ID)图像,充分挖掘内部 ID 训练集的价值。随后,分类器使用一种新颖的目标函数进行训练,该函数对真实与合成 ID 样本计算加权损失。我们的训练框架称为 SIO,是一种“即插即用”技术,旨在与现有及未来的 OOD 检测算法兼容,包括那些利用可用 OOD 训练数据的算法。我们在 CIFAR-10、CIFAR-100 与 ImageNet 变体上的实验表明,SIO 持续提升了几乎所有最先进(SOTA)OOD 检测算法的性能。例如,在具有挑战性的 CIFAR-10 v.s. CIFAR-100 检测问题上,SIO 将 18 种现有方法的平均 OOD 检测 AUROC 从 86.25\% 提升至 89.04\%,并根据 OpenOOD 基准达到了 92.94\% 的新 SOTA。代码见 https://github.com/zjysteven/SIO。
引用
@article{arxiv.2303.14531,
title = {SIO: Synthetic In-Distribution Data Benefits Out-of-Distribution Detection},
author = {Jingyang Zhang and Nathan Inkawhich and Randolph Linderman and Ryan Luley and Yiran Chen and Hai Li},
journal= {arXiv preprint arXiv:2303.14531},
year = {2023}
}