利用分布外数据增强 Softmax 信息以实现选择性分类

检测分布外(OOD)数据是计算机视觉深度学习领域中受到越来越多研究关注的课题。然而,检测方法的性能通常仅在孤立的任务上进行评估,而未同时考虑潜在的下游任务。在本工作中,我们研究了存在 OOD 数据时的选择性分类(SCOD)。也就是说,检测 OOD 样本的动机是拒绝它们,从而减小其对预测质量的影响。我们表明,在此任务设定下,现有的事后处理方法的表现与仅在 OOD 检测上评估时大不相同。这是因为,如果分布内(ID)数据将被误分类,那么将 ID 数据与 OOD 数据混淆不再成为问题;然而,在 ID 数据内部将正确与错误预测混淆则变得不可取。我们还提出了一种用于 SCOD 的新方法——Softmax 信息保留组合(SIRC),它将基于 softmax 的置信度分数与特征无关的信息相增强,从而在不牺牲正确与错误 ID 预测之间分离度的前提下,提升其识别 OOD 样本的能力。在多种 ImageNet 规模的 dataset 和卷积神经网络架构上的实验表明,SIRC 能够持续匹配或超越 SCOD 的基线,而现有的 OOD 检测方法则做不到这一点。