利用不可靠分布外源的分布外检测学习
机器学习
2023-12-06 v2 多媒体
摘要
分布外(OOD)检测可辨识 OOD 数据，即预测器无法像对分布内(ID)数据那样做出有效预测的数据，从而提升开放世界分类的可靠性。然而，通常难以收集真实的 OOD 数据来训练能够辨别 ID 与 OOD 模式的预测器。该障碍催生了基于数据生成的学习方法，其通过数据生成器合成 OOD 数据用于预测器训练，而无需任何真实 OOD 数据。相关方法通常在 ID 数据上预训练生成器，并采用多种选择过程来寻找那些可能为 OOD 案例的数据。然而，生成数据仍可能与 ID 语义重合，即错误的 OOD 生成依然存在，使预测器在 ID 与 OOD 数据间混淆。为此，我们提出可将生成数据（含错误 OOD 生成）用于设计辅助 OOD 检测任务，以促进真实 OOD 检测。具体而言，若 ID 与 OOD 部分具有不相交支撑，借助为预测器精心设计的训练流程，可确保从此类辅助任务中学习是有益的。相应地，我们提出一种强大的基于数据生成的学习方法，称为基于辅助任务的 OOD 学习(ATOL)，可缓解错误的 OOD 生成。我们在多种 OOD 检测设定下进行了广泛实验，证明了我们的方法相对于先进对照方法的有效性。
引用
@article{arxiv.2311.03236,
title = {Out-of-distribution Detection Learning with Unreliable Out-of-distribution Sources},
author = {Haotian Zheng and Qizhou Wang and Zhen Fang and Xiaobo Xia and Feng Liu and Tongliang Liu and Bo Han},
journal= {arXiv preprint arXiv:2311.03236},
year = {2023}
}
备注
Accepted by NeurIPS 2023