用于深度神经网络有效故障定位的路径分析
人工智能
2025-01-28 v4 神经与进化计算
软件工程
摘要
深度学习已革新众多领域，但由于深度神经网络（DNNs）的复杂性与数据依赖性，其可靠性仍令人担忧。传统的软件故障定位方法，如基于频谱的故障定位（SBFL），已被适配于 DNN，但往往效果不足。这些方法通常忽视故障在神经通路中的传播，导致故障检测不够精确。研究表明，考察神经通路而非单个神经元至关重要，因为一个神经元中的问题可影响其整个通路。通过探究这些相互连接的通路，我们能更好地识别并解决由神经元集体活动引发的问题。为应对此局限，我们提出 NP-SBFL 方法，利用逐层相关性传播（LRP）识别关键的故障神经通路。我们的方法探索多种故障源，通过分析神经元间的互联来准确锁定故障神经元。此外，我们的多阶段梯度上升（MGA）技术作为梯度上升（GA）的扩展，可实现顺序神经元激活以增强故障检测。我们在成熟的 MNIST 与 CIFAR-10 数据集上评估了 NP-SBFL-MGA，并将其与 DeepFault、NP-SBFL-GA 等方法以及 Tarantula、Ochiai 和 Barinel 三种神经元度量进行比较。我们的评估使用了全部训练与测试样本（MNIST 为 60,000，CIFAR-10 为 50,000），结果显示 NP-SBFL-MGA 在识别可疑通路和生成对抗样本方面显著优于基线。值得注意的是，采用 NP-SBFL-MGA 的 Tarantula 达到了 96.75% 的故障检测率，而 DeepFault 为 89.90%。NP-SBFL-MGA 揭示了 DNN 故障定位中关键路径覆盖与失败测试数量之间的强相关性。
引用
@article{arxiv.2310.18987,
title = {Path Analysis for Effective Fault Localization in Deep Neural Networks},
author = {Soroush Hashemifar and Saeed Parsa and Akram Kalaee},
journal= {arXiv preprint arXiv:2310.18987},
year = {2025}
}