多种已训练神经网络上分布外检测的性能分析
机器学习
2021-03-30 v1
摘要
过去几年中，多个领域因深度学习而得到改进。对于非安全相关产品，AI 与 ML 的采用不成问题，而在安全关键应用中，此类方法的鲁棒性仍是一大难题。深度神经网络（DNN）面临的一个常见挑战是暴露于先前未见的分布外样本时，尽管对输入毫无先验知识，DNN 仍可能给出高置信度预测。在本文中，我们在两种知名 DNN 上以不同的训练设置分析了两类监督器，发现异常值检测性能随训练过程的质量而提升。我们在训练周期的每个 epoch 后分析监督器的性能，以在准确率收敛时考察监督器表现。理解训练结果与监督器性能之间的关系，对提升模型鲁棒性颇具价值，并指明了在安全关键应用中创建泛化模型尚需开展的工作。
引用
@article{arxiv.2103.15580,
title = {Performance Analysis of Out-of-Distribution Detection on Various Trained Neural Networks},
author = {Jens Henriksson and Christian Berger and Markus Borg and Lars Tornberg and Sankar Raman Sathyamoorthy and Cristofer Englund},
journal= {arXiv preprint arXiv:2103.15580},
year = {2021}
}
备注
8 pages, 7 figures, presented at SEAA 2019