通过覆盖测试探索深度学习模型在图像识别中的表现
计算机视觉与模式识别
2026-01-16 v2 人工智能
机器学习
摘要
深度神经网络 (DNN) 在人工智能领域发挥着关键作用，其安全相关测试一直是备受关注的研究方向。通过输入测试案例来检查模型的异常行为，并利用覆盖率指标来确定这些测试案例覆盖了多少神经元。尽管 DNN 的应用日益广泛且不断进步，但不同类型的神经行为引起了注意，催生了各种针对神经网络的覆盖率指标。然而，目前缺乏对这些覆盖率指标的实证研究，特别是分析模型深度、配置信息与神经网络覆盖率之间的关系和模式。本文旨在调查四种覆盖率指标之间的关系和模式：主要功能覆盖率、边界覆盖率、层次覆盖率和结构覆盖率。 conducted 一系列实证实验，选取 LeNet、VGG 和 ResNet 作为不同的 DNN 架构，以及深度从 5 层到 54 层的 10 个模型，用于比较和研究不同深度、配置信息与各种神经网络覆盖率指标之间的关系。此外，还研究了修改后的决策/条件覆盖率与数据集大小之间的关系。最后，提出了三个潜在的未来方向，以进一步贡献于 DNN 模型的安全测试。
引用
@article{arxiv.2505.08814,
title = {Towards Understanding Deep Learning Model in Image Recognition via Coverage Test},
author = {Wenkai Li and Xiaoqi Li and Yingjie Mao and Yishun Wang},
journal= {arXiv preprint arXiv:2505.08814},
year = {2026}
}