深度神经网络异常检测的统一框架
机器学习
2021-10-08 v1 人工智能
摘要
深度神经网络 (DNN) 在应用于与训练集同分布的 In-Distribution (ID) 数据时，可以取得高性能。当面对非 ID 的异常输入时，DNN 的输出应被视为无意义。然而，现代 DNN 常将异常输入以高置信度预测为某一 ID 类别，这是危险且具误导性的。在本工作中，我们考虑三类异常输入：(1) 来自与 DNN 所训练分布不同的自然输入，即已知为 Out-of-Distribution (OOD) 样本；(2) 由攻击者从 ID 生成的构造输入，通常称为对抗 (AD) 样本；(3) 由无意义数据生成的噪声 (NS) 样本。我们提出一个框架，旨在为预训练 DNN 检测所有这些异常。与部分现有工作不同，我们的方法不需要对输入数据进行预处理，也不依赖于任何已知的 OOD 集或对抗攻击算法。通过对多种 DNN 模型进行针对上述异常检测的广泛实验，我们表明在大多数情况下，我们的方法在识别全部三类异常上优于最先进的异常检测方法。
引用
@article{arxiv.2110.03092,
title = {A Uniform Framework for Anomaly Detection in Deep Neural Networks},
author = {Fangzhen Zhao and Chenyi Zhang and Naipeng Dong and Zefeng You and Zhenxin Wu},
journal= {arXiv preprint arXiv:2110.03092},
year = {2021}
}
备注
18 pages, 9 figures, 9 tables