WOOD：基于Wasserstein距离的分布外检测
机器学习
2021-12-14 v1 机器学习
摘要
基于深度神经网络的分类器的训练与测试数据通常假设采样自同一分布。当部分测试样本来自与训练样本分布足够远离的分布（即分布外（OOD）样本）时，训练好的神经网络往往会对这些OOD样本做出高置信度预测。在训练用于图像分类、目标检测等的神经网络时，OOD样本的检测至关重要。它能增强分类器对无关输入的鲁棒性，并提升系统在不同形式攻击下的韧性与安全性。OOD样本检测面临三大挑战：（i）所提OOD检测方法应兼容各类分类器架构（如DenseNet、ResNet），且不显著增加模型复杂度和计算资源需求；（ii）OOD样本可能来自多个分布，其类别标签通常不可用；（iii）需定义评分函数以有效分离OOD样本与分布内（InD）样本。为克服这些挑战，我们提出一种基于Wasserstein距离的分布外检测（WOOD）方法。基本思想是定义基于Wasserstein距离的评分来衡量测试样本与InD样本分布的不相似度。随后基于所提评分函数构建并求解一个优化问题。研究了该方法的统计学习界，以保证经验优化器取得的损失值逼近全局最优。对比研究结果表明，所提WOOD持续优于其他现有OOD检测方法。
引用
@article{arxiv.2112.06384,
title = {WOOD: Wasserstein-based Out-of-Distribution Detection},
author = {Yinan Wang and Wenbo Sun and Jionghua "Judy" Jin and Zhenyu "James" Kong and Xiaowei Yue},
journal= {arXiv preprint arXiv:2112.06384},
year = {2021}
}