用于不确定性感知的分布外检测的网络反演
机器学习
2025-12-01 v2 计算机视觉与模式识别
摘要
分布外（OOD）检测和不确定性估计（UE）是构建安全机器学习系统的关键组件，尤其是在意外输入不可避免的现实场景中。然而直到最近，这两个问题一直是被分开处理的。在本研究中，我们提出了一个新颖的框架，将网络反演与分类器训练相结合，以同时解决 OOD 检测和不确定性估计。对于标准的 n 类分类任务，我们通过引入一个“垃圾”类，将分类器扩展为 (n+1) 类模型，该类初始填充随机高斯噪声以表示离群点输入。在每个训练周期后，我们使用网络反演重构对应于所有输出类的输入图像，这些图像初始表现为嘈杂且不连贯，因此被排除至垃圾类中以重新训练分类器。这种训练、反演和排除的循环迭代进行，直到反演样本开始更紧密地类似于分布内数据，同时不确定性显著下降，这表明分类器已学会划分出有意义的决策边界，同时通过将 OOD 内容推入垃圾类来净化类流形。在推理阶段，该训练方案使模型能够通过将 OOD 样本分类至垃圾类来有效检测并拒绝它们。此外，与每个预测相关的置信度分数可用于估计分布内和 OOD 输入的不确定性。我们的方法具有可扩展性和可解释性，无需访问外部 OOD 数据集或事后校准技术，同时为 OOD 检测和不确定性估计的双重挑战提供了统一的解决方案。
引用
@article{arxiv.2505.23448,
title = {Network Inversion for Uncertainty-Aware Out-of-Distribution Detection},
author = {Pirzada Suhail and Rehna Afroz and Gouranga Bala and Amit Sethi},
journal= {arXiv preprint arXiv:2505.23448},
year = {2025}
}