利用二值神经元激活模式检测分布外样本
机器学习
2023-03-27 v2
摘要
深度神经网络（deep neural networks, DNN）在各种应用中表现优异。尽管研究界付出了诸多努力，分布外（out-of-distribution, OOD）样本仍是 DNN 分类器的一大显著局限。在安全关键应用（如自动驾驶汽车、无人机和机器人）中，将未见过的输入识别为新颖样本的能力至关重要。现有的 OOD 样本检测方法将 DNN 视为黑箱并评估输出预测的置信度分数。遗憾的是，该方法经常失效，因为 DNN 并未被训练来降低其对 OOD 输入的置信度。本工作中，我们提出一种新颖的 OOD 检测方法。我们的方法受基于 ReLU 的架构中神经元激活模式（neuron activation patterns, NAP）理论分析的启发。所提方法由于从卷积层提取的激活模式采用二值表示，不会引入高计算开销。大量实证评估证明了其在多种 DNN 架构和七个图像数据集上的高性能。
引用
@article{arxiv.2212.14268,
title = {Detection of out-of-distribution samples using binary neuron activation patterns},
author = {Bartlomiej Olber and Krystian Radlak and Adam Popowicz and Michal Szczepankiewicz and Krystian Chachuła},
journal= {arXiv preprint arXiv:2212.14268},
year = {2023}
}