基于 AI 的系统认证框架
机器学习
2023-02-23 v1 计算机视觉与模式识别
软件工程
摘要
当前航空航天软件的认证流程并不适用于深度神经网络等“基于 AI”的算法。与传统航空航天软件不同，神经网络训练期间优化的精确参数与处理网络的代码同等重要（甚至更重要），且它们无法直接用数学方式理解。尽管缺乏可解释性，此类算法仍具吸引力，因为对某些应用它们可展现出任何传统逐行显式软件方法无法达到的高性能。本文提出一个框架与原则，可用于建立当前认证流程（如 DO-178）无法适用的神经网络模型的认证方法。虽然它并非神奇配方，却是一组常识性步骤，通过展示将需求、数据、软件、训练过程和测试结果汇集、追踪和跟踪的能力，使申请方与监管方提升对所开发软件的信心。
引用
@article{arxiv.2302.11049,
title = {Framework for Certification of AI-Based Systems},
author = {Maxime Gariel and Brian Shimanuki and Rob Timpe and Evan Wilson},
journal= {arXiv preprint arXiv:2302.11049},
year = {2023}
}
备注
9 pages, 10 figures