可证明鲁棒的离群分布数据检测（几乎）免费实现
机器学习
2022-10-19 v2 人工智能
计算机视觉与模式识别
摘要
机器学习在安全关键系统中的应用需要对不确定性进行可靠评估。然而，深度神经网络已知会对离群分布（OOD）数据产生高度过度自信的预测。即使被训练为对 OOD 数据不自信，仍可以对抗性地操纵 OOD 数据，使分类器再次对被操纵的样本赋予高置信度。我们表明，先前发表的两项防御可被更好适配的攻击攻破，这凸显了围绕 OOD 数据提供鲁棒性保证的重要性。由于该任务的现有方法难以训练且显著限制准确率，我们构建了一个分类器，可同时实现可证明的对抗鲁棒 OOD 检测和高干净准确率。此外，通过略微修改分类器架构，我们的方法可证明避免标准神经网络的渐近过度自信问题。我们提供了所有实验的代码。
引用
@article{arxiv.2106.04260,
title = {Provably Robust Detection of Out-of-distribution Data (almost) for free},
author = {Alexander Meinke and Julian Bitterwolf and Matthias Hein},
journal= {arXiv preprint arXiv:2106.04260},
year = {2022}
}