深度神经网络中高效分布外检测的统计框架
机器学习
2022-04-01 v3 机器学习
摘要
背景。通常，深度神经网络（Deep Neural Networks, DNNs）在从与训练集相似分布抽取的采样上泛化良好。然而，当测试样本抽取自不同分布时，DNN 的预测脆弱且不可靠。这是实际部署中的主要关注点，此类行为可能带来可观代价，如工业生产线、自动驾驶或医疗应用。贡献。我们将 DNN 中的分布外（Out Of Distribution, OOD）检测框定为统计假设检验问题。我们提出的框架内生成的检验结合了来自整个网络的证据。与先前的 OOD 检测启发式方法不同，该框架为每个测试样本返回 值。它保证对测试数据维持第一类错误（Type I Error, T1E——对实际分布内样本误判为 OOD）。此外，这允许组合多个检测器同时维持 T1E。基于该框架，我们提出一种基于低阶统计的新颖 OOD 流程。我们的方法在公认 OOD 基准上取得与最先进方法相当或更优的结果，且无需重训网络参数或假设测试分布的先验知识——并以极少的计算代价。
引用
@article{arxiv.2102.12967,
title = {A statistical framework for efficient out of distribution detection in deep neural networks},
author = {Matan Haroush and Tzviel Frostig and Ruth Heller and Daniel Soudry},
journal= {arXiv preprint arXiv:2102.12967},
year = {2022}
}