CertPri：基于特征空间中移动代价的深度神经网络可认证优先级排序
软件工程
2023-07-19 v1 人工智能
摘要
深度神经网络（DNN）已在各类软件系统中展现出卓越性能，但也表现出异常行为，甚至导致不可逆的灾难。因此，识别基于DNN的软件的异常行为并提升DNN质量至关重要。测试输入优先级排序是保障DNN质量最具吸引力的方法之一，它对测试输入进行排序，以便在有限的时间和人工标注成本下更早地识别出更多揭示缺陷的输入。然而，现有优先级排序方法仍受限于三个方面：可认证性、有效性和泛化性。为应对这些挑战，我们提出CertPri，一种基于测试输入在DNN特征空间中移动代价视角设计的测试输入优先级排序技术。CertPri与以往工作有三个关键不同：（1）可认证：它为移动代价提供形式化的鲁棒性保证；（2）有效：它利用形式化保证的移动代价来识别恶意的揭示缺陷输入；（3）通用：它可应用于各类任务、数据、模型和场景。在2项任务（即分类与回归）、6种数据形式、4种模型结构以及2种场景（即白盒与黑盒）上的大量评估证明了CertPri的优越性能。例如，与基线相比，其优先级排序有效性平均显著提升了53.97%。其鲁棒性和泛化性分别为基线的1.41~2.00倍和1.33~3.39倍（平均值）。
引用
@article{arxiv.2307.09375,
title = {CertPri: Certifiable Prioritization for Deep Neural Networks via Movement Cost in Feature Space},
author = {Haibin Zheng and Jinyin Chen and Haibo Jin},
journal= {arXiv preprint arXiv:2307.09375},
year = {2023}
}