利用分布内样本与 Gram 矩阵检测分布外样本
机器学习
2020-01-10 v2 计算机视觉与模式识别
机器学习
摘要
当面对分布外 (OOD) 样本时，深度神经网络会给出自信但错误的预测。检测 OOD 样本具有挑战性，且潜在风险很高。在本文中，我们提出通过识别活动模式与所预测类别之间的不一致来检测 OOD 样本。我们发现，用 Gram 矩阵刻画活动模式并识别 Gram 矩阵值中的异常可得到较高的 OOD 检测率。我们通过将每个值与在训练数据上观测到的相应范围进行简单比较来识别 Gram 矩阵中的异常。与许多方法不同，这可用于任何预训练的 softmax 分类器，且不需要访问 OOD 数据来微调超参数，也不需要 OOD 访问以推断参数。该方法适用于多种架构与视觉数据集，并且对于检测远分布外样本这一重要且出乎意料困难的任务，其表现通常优于或等于最先进的 OOD 检测方法（包括那些假定可访问 OOD 样本的方法）。
引用
@article{arxiv.1912.12510,
title = {Detecting Out-of-Distribution Examples with In-distribution Examples and Gram Matrices},
author = {Chandramouli Shama Sastry and Sageev Oore},
journal= {arXiv preprint arXiv:1912.12510},
year = {2020}
}
备注
NeurIPS 2019 Workshop on Safety and Robustness in Decision Making