发现用于图像分类的压缩 DNN 模型的偏离行为
软件工程
2023-02-07 v2 人工智能
摘要
模型压缩能显著减小深度神经网络（DNN）模型的大小，从而有助于复杂、庞大的 DNN 模型的传播，特别是在移动或嵌入式设备上的部署。然而，压缩模型的预测结果可能偏离其原始模型。为帮助开发者在传播前充分理解模型压缩的影响，测试这些模型以发现那些偏离行为至关重要。但这是一项非平凡的任务，因为压缩模型的架构和梯度通常不可用。为此，我们提出 DFLARE，一种新颖的、基于搜索的黑盒测试技术，用于自动寻找在图像分类任务中导致偏离行为的触发输入。DFLARE 对给定种子图像迭代地应用一系列变异操作，直到找到触发输入。为获得更好的效果与效率，DFLARE 将搜索问题建模为马尔可夫链，并利用 Metropolis-Hasting 算法指导每次迭代中变异算子的选择。此外，DFLARE 使用一种新颖的适应度函数，对导致两模型输出间较大差异或触发先前未观测到的模型概率向量的变异输入进行优先排序。我们在 21 个用于图像分类任务的压缩模型上，使用三个数据集对 DFLARE 进行了评估。结果表明，DFLARE 在效果与效率上均优于基线。我们还展示了 DFLARE 找到的触发输入可用于修复图像分类任务中多达 48.48% 的偏离行为，并进一步降低 DFLARE 在修复后模型上的有效性。
引用
@article{arxiv.2112.02819,
title = {Finding Deviated Behaviors of the Compressed DNN Models for Image Classifications},
author = {Yongqiang Tian and Wuqi Zhang and Ming Wen and Shing-Chi Cheung and Chengnian Sun and Shiqing Ma and Yu Jiang},
journal= {arXiv preprint arXiv:2112.02819},
year = {2023}
}
备注
This is the author version. The DOI of the published version is http://dx.doi.org/10.1145/3583564. Please see the full abstract in the pdf