DEM：一种用于航空航天领域深度神经网络分类器输出认证的方法
软件工程
2024-08-06 v4 机器学习
摘要
航空航天领域的软件开发需要遵循严格的高质量标准。尽管该领域的商业软件存在监管指南（如ARP-4754和DO-178），但这些指南并不适用于包含深度神经网络（DNN）组件的软件。因此，目前尚不清楚如何让航空航天系统从深度学习革命中获益。我们在此的工作旨在通过一种新颖的、以输出为中心的DNN认证方法来应对这一挑战。我们的方法采用统计验证技术，其关键优势在于能够标记DNN输出可能不可靠的特定输入，以便后续由人类专家进行审查。为实现这一目标，我们的方法对DNN在其他邻近输入上的预测进行统计分析，以检测不一致性。这与现有技术形成对比，后者通常试图认证整个DNN，而非单个输出。我们的方法将DNN用作黑盒，且不对其拓扑结构做任何假设。我们希望这项工作能成为将DNN集成到安全关键应用（尤其是质量和可靠性标准至关重要的航空航天领域）中的又一步。
引用
@article{arxiv.2401.02283,
title = {DEM: A Method for Certifying Deep Neural Network Classifier Outputs in Aerospace},
author = {Guy Katz and Natan Levy and Idan Refaeli and Raz Yerushalmi},
journal= {arXiv preprint arXiv:2401.02283},
year = {2024}
}
备注
This is a preprint version of a paper that will appear at 43rd Digital Avionics Systems Conference (DASC 2024)