DeepFault：深度神经网络的故障定位
软件工程
2019-02-19 v1 计算机视觉与模式识别
机器学习
摘要
深度神经网络（DNNs）正日益部署于包括自动驾驶汽车与医疗诊断在内的安全关键应用中。为降低意外DNN行为的残余风险并提供其可信运行的证据，DNNs应被彻底测试。我们论文中提出的DeepFault白盒DNN测试方法通过采用受故障定位启发的可疑度度量来建立神经元的命中谱，并识别权重未被正确校准从而被认为对DNN性能不足负责的疑似神经元，以应对这一挑战。DeepFault还使用一种可疑度引导的算法，从正确分类的输入中综合新输入，以提升疑似神经元的激活值。我们在若干基于MNIST与CIFAR-10数据集训练的DNN实例上的实证评估表明，DeepFault能有效识别疑似神经元。并且，DeepFault综合的输入与原始输入高度相似，能激发所识别的疑似神经元，且具有高度对抗性。
引用
@article{arxiv.1902.05974,
title = {DeepFault: Fault Localization for Deep Neural Networks},
author = {Hasan Ferit Eniser and Simos Gerasimou and Alper Sen},
journal= {arXiv preprint arXiv:1902.05974},
year = {2019}
}
备注
15 pages