基于高斯过程的不确定性感知的外分布检测
机器学习
2024-12-31 v1 机器学习
摘要
深度神经网络（DNN）通常是在封闭世界假设下构建的，这可能导致其无法泛化到外分布（OOD）数据，从而产生过于自信的错误预测，在安全关键应用中可能造成灾难性后果。现有的 OOD 检测方法主要依赖收集一组 OOD 数据用于模型训练或超参数调优，以区分 OOD 数据与训练数据（亦即分布内数据或 InD 数据）。然而，在实际应用中，OOD 样本在训练阶段可能不可得，这会限制 OOD 检测的准确性。为此，我们提出一种基于高斯过程的 OOD 检测方法，仅基于 InD 数据建立决策边界。其核心思想是通过多类高斯过程（GP）对 DNN 的无约束 softmax 分数进行不确定性量化，然后定义一个评分函数，基于 GP 的后验预测分布中 InD 与潜在 OOD 数据的根本性差异来分离两者。我们在常规图像分类数据集和真实世界图像数据集上进行了两项案例研究，结果表明该方法在 OOD 样本不可见于训练阶段时，优于当前最先进的 OOD 检测方法。
关键词
引用
@article{arxiv.2412.20918,
title = {Uncertainty-Aware Out-of-Distribution Detection with Gaussian Processes},
author = {Yang Chen and Chih-Li Sung and Arpan Kusari and Xiaoyang Song and Wenbo Sun},
journal= {arXiv preprint arXiv:2412.20918},
year = {2024}
}