深度神经网络的特征图测试
软件工程
2023-07-24 v1 人工智能
摘要
由于深度神经网络（DNNs）在安全关键任务中的广泛应用，深度学习测试已引起越来越多的关注。在测试过程中，经过模糊化或使用测试度量筛选的测试用例被输入模型，以发现致错测试单元（例如神经元和特征图，其激活几乎必然导致模型错误）并报告给 DNN 开发者，开发者随后对其进行修复（例如使用测试用例重新训练模型）。然而，当前的测试度量主要关注神经元，这意味着通过这些度量引导的模糊化或筛选所发现的测试用例侧重于检测致错神经元，却未能检测致错特征图。在这项工作中，我们提出 DeepFeature，从特征图层级测试 DNNs。进行测试时，DeepFeature 将审视模型中的每一个内部特征图，并识别可通过修复来增强以提升模型整体性能的漏洞。我们进行了详尽的实验以证明：（1）DeepFeature 是检测模型脆弱特征图的强有力工具；（2）DeepFeature 的测试用例筛选具有高的故障检测率，并能检测更多类型的故障（与覆盖引导的筛选技术相比，故障检测率提高了 49.32%）；（3）DeepFeature 的模糊器也优于当前的模糊技术，并能更高效地生成有价值的测试用例。
引用
@article{arxiv.2307.11563,
title = {Feature Map Testing for Deep Neural Networks},
author = {Dong Huang and Qingwen Bu and Yahao Qing and Yichao Fu and Heming Cui},
journal= {arXiv preprint arXiv:2307.11563},
year = {2023}
}
备注
12 pages, 5 figures. arXiv admin note: text overlap with arXiv:2307.11011