基于特征提取与聚类的深度神经网络黑盒安全分析与重训练
软件工程
2022-10-17 v4 机器学习
摘要
深度神经网络在支持安全关键系统中的许多功能方面，已展现出优于经典机器学习的性能。尽管 DNN 现已广泛应用于此类系统（例如自动驾驶汽车），但在基于 DNN 的系统的自动化功能安全分析支持方面进展有限。例如，识别错误的根本原因以实现风险分析和 DNN 重训练，仍然是一个开放问题。在本文中，我们提出了 SAFE，一种自动刻画 DNN 错误根本原因的黑盒方法。SAFE 依赖在 ImageNet 上预训练的迁移学习模型，从引发错误的图像中提取特征。随后，它应用基于密度的聚类算法来检测任意形状的图像簇，这些图像簇模拟了合理的错误原因。最后，利用聚类结果有效地重训练并改进 DNN。SAFE 的黑盒特性源于我们的目标，即不需要修改甚至访问 DNN 内部以促进其应用。实验结果表明，基于汽车领域的案例研究，SAFE 在识别 DNN 错误的不同根本原因方面具有卓越能力。它还在重训练后显著提高了 DNN 的准确率，同时与替代方案相比节省了大量执行时间和内存。
引用
@article{arxiv.2201.05077,
title = {Black-box Safety Analysis and Retraining of DNNs based on Feature Extraction and Clustering},
author = {Mohammed Oualid Attaoui and Hazem Fahmy and Fabrizio Pastore and Lionel Briand},
journal= {arXiv preprint arXiv:2201.05077},
year = {2022}
}
备注
41 pages, 12 figures, 15 tables