用于分布外检测的可信分类器分析
机器学习
2019-04-30 v1 计算机视觉与模式识别
机器学习
摘要
判别训练的神经网络分类器只有在输入数据来自训练分布（分布内）时才可信。因此，检测分布外（OOD）样本对于避免分类错误非常重要。在图像分类的OOD检测背景下，近期的一种方法提出通过最小化分布内样本上的标准交叉熵损失，并最小化分布外样本在分布内低密度区域中的预测分布与均匀分布之间的KL散度（最大化输出的熵），来训练一个称为“可信分类器”的分类器。因此，若样本具有低置信度或高熵，则可被检测为OOD。在本文中，我们从理论和实验两方面分析了这一设置。我们得出结论，所得的可信分类器仍会对远离分布内的OOD样本产生任意高的置信度。我们转而建议通过为OOD样本添加显式的“拒绝”类来训练分类器。
引用
@article{arxiv.1904.12220,
title = {Analysis of Confident-Classifiers for Out-of-distribution Detection},
author = {Sachin Vernekar and Ashish Gaurav and Taylor Denouden and Buu Phan and Vahdat Abdelzad and Rick Salay and Krzysztof Czarnecki},
journal= {arXiv preprint arXiv:1904.12220},
year = {2019}
}
备注
SafeML 2019 ICLR workshop paper