基于视觉的自主系统的闭环分析：案例研究
计算机视觉与模式识别
2023-02-13 v1 人工智能
形式语言与自动机理论
机器学习
摘要
深度神经网络（DNNs）正日益用作安全关键自主系统中的感知组件，处理高维图像数据。由于感知 DNNs、传感器（摄像头）以及环境条件的复杂性，对这些系统的形式化分析尤其具有挑战性。我们给出一个案例研究，将形式化概率分析技术应用于一个使用感知 DNN 引导飞机在滑行道上滑行的实验性自主系统。我们通过用基于在代表性图像数据集上计算的 DNN 混淆矩阵构建的紧凑概率抽象来替代摄像头和网络，从而应对上述挑战。我们还展示了如何利用局部的、DNN 特定的分析作为运行时守卫来提高整体系统的安全性。我们的发现适用于其他使用复杂 DNN 进行感知的自主系统。
引用
@article{arxiv.2302.04634,
title = {Closed-loop Analysis of Vision-based Autonomous Systems: A Case Study},
author = {Corina S. Pasareanu and Ravi Mangal and Divya Gopinath and Sinem Getir Yaman and Calum Imrie and Radu Calinescu and Huafeng Yu},
journal= {arXiv preprint arXiv:2302.04634},
year = {2023}
}