基于层次化和可解释分类提高深层神经网络故障检测与诊断
软件工程
2025-01-23 v1
摘要
深层神经网络（DNN）在欺诈检测、医疗诊断、人脸识别和自动驾驶等多个领域找到了众多应用，但由于其固有的复杂性和底层模型的随机性，DNN基于系统常常会出现可靠性问题。不幸的是，现有针对DNN程序故障检测的技术要么受限于所支持的故障类型（例如超参数或图层），要么受限于所使用的信息类型（例如动态或静态），因此可能不足以全面检测和诊断故障。本文提出了DEFault（Detect and Explain Fault）——一种用于检测和诊断DNN程序故障的新型技术。它首先在模型训练期间捕获动态（即运行时）特征，并利用层次化分类方法检测来自文献中所有主要故障类别。随后，它从DNN程序中捕获静态特征（例如图层类型），并利用可解释人工智能方法（例如SHAP）来缩小故障根源。我们在约14.5K个DNN程序的大型多样化数据集上训练和评估DEFault，并进一步使用52个真实故障DNN程序的基准数据集进行验证。我们的做法在检测真实世界故障DNN程序方面实现了约94%的召回率，在诊断故障根源方面实现了约63%的召回率，显示出比现有技术高出3.92%至11.54%的性能。因此，DEFault有潜力通过有效检测和诊断故障显著提高DNN程序的可靠性。
引用
@article{arxiv.2501.12560,
title = {Improved Detection and Diagnosis of Faults in Deep Neural Networks Using Hierarchical and Explainable Classification},
author = {Sigma Jahan and Mehil B Shah and Parvez Mahbub and Mohammad Masudur Rahman},
journal= {arXiv preprint arXiv:2501.12560},
year = {2025}
}