用于分布外检测的概率信任区间
机器学习
2024-12-25 v3 人工智能
摘要
深度学习网络区分分布内（ID）与分布外（OOD）输入的能力对于确保 AI 系统的可靠性与可信性至关重要。现有的 OOD 检测方法常涉及复杂的架构创新，例如集成模型，这类方法虽提升了检测精度，却显著增加了模型复杂度和训练时间。其他方法利用代理样本来模拟 OOD 输入，但这些样本可能无法很好地泛化到不同类型的 OOD 数据。本文中，我们提出一种直接而新颖的技术，在不改变预训练网络原始参数的情况下增强其 OOD 检测能力。我们的方法为每个网络权重定义概率信任区间，该区间由分布内数据确定。推理时，采样额外的权重值，并利用输出间由此产生的不一致来进行 OOD 检测。我们提出一种度量来量化该不一致，并以经验证据验证其有效性。我们的方法在多个 OOD 数据集上显著优于各类基线方法，且无需真实的或代理的 OOD 样本。我们在 MNIST、Fashion-MNIST、CIFAR-10、CIFAR-100 和 CIFAR-10-C（CIFAR-10 的腐蚀增强版本）上，跨多种神经网络架构（如 VGG-16、ResNet-20、DenseNet-100）评估了我们的方法。在 MNIST-FashionMNIST 设定下，我们的方法在 95% 真正率（TPR）下实现了 12.46% 的假正率（FPR），而最佳基线为 27.09%。在 CIFAR-10-C 等对抗性和腐蚀数据集上，我们提出的方法能轻松区分干净与含噪输入。这些结果表明了我们的方法在识别腐蚀和对抗输入方面的鲁棒性，且训练过程无需 OOD 样本。
引用
@article{arxiv.2102.01336,
title = {Probabilistic Trust Intervals for Out of Distribution Detection},
author = {Gagandeep Singh and Ishan Mishra and Deepak Mishra},
journal= {arXiv preprint arXiv:2102.01336},
year = {2024}
}
备注
Accepted at CODS-COMAD 2024