一种利用复合腐蚀进行分布外样本检测的数据增强新技术
计算机视觉与模式识别
2022-09-23 v2 人工智能
机器学习
摘要
已知现代深度神经网络模型会将分布外（OOD）测试数据以高置信度错误分类为分布内（ID）训练类别之一。这对于安全关键应用可能是灾难性的后果。一种流行的缓解策略是训练一个单独的 classifier（分类器）以在测试时检测此类 OOD 样本。在大多数实际设置中，OOD 样本在训练时未知，因此一个关键问题是：如何用语合成 OOD 样本扩充 ID 数据以训练这样的 OOD 检测器？在本文中，我们提出了一种称为 CnC 的用于 OOD 数据增强的新颖 Compounded Corruption（复合腐蚀）技术。CnC 的主要优势之一是不需要除训练集以外的任何留出数据。此外，与当前最先进的（SOTA）技术不同，CnC 在测试时不需要反向传播或集成，使我们的方法在推理时快得多。我们与过去 4 年主要会议上的 20 种方法的广泛比较表明，使用基于 CnC 的数据增强训练的模型在 OOD 检测准确率以及推理时间上均显著优于 SOTA。我们包含详细的事后分析以探究我们方法成功的原因，并确定 CnC 样本更高的相对熵和多样性为可能原因。我们还通过在一个二维数据集上的分段分解分析提供理论见解，以（在视觉上和定量上）揭示我们的方法导致 ID 类别周围更紧的边界，从而更好地检测 OOD 样本。源代码链接：https://github.com/cnc-ood
引用
@article{arxiv.2207.13916,
title = {A Novel Data Augmentation Technique for Out-of-Distribution Sample Detection using Compounded Corruptions},
author = {Ramya S. Hebbalaguppe and Soumya Suvra Goshal and Jatin Prakash and Harshad Khadilkar and Chetan Arora},
journal= {arXiv preprint arXiv:2207.13916},
year = {2022}
}
备注
16 pages of the main text, and supplemental material. Accepted in Research Track ECML'22. Project webpage: https://cnc-ood.github.io/