案例研究：神经网络控制系统的运行时安全验证
机器人学
2024-08-19 v1
摘要
神经网络越来越多地用于机器人和自动驾驶等安全关键应用。然而，神经网络控制系统（NNCS）的部署引发了显著的安全担忧。许多近期进展忽视了验证控制和确保实时场景安全的关键方面。本文以使用POLAR-Express（一种最先进的NNCS可达性分析工具）对使用激光雷达的Turtlebot导航系统进行运行时安全验证为案例研究。Turtlebot配备了用于转向的神经网络控制器，在包含障碍物的复杂环境中运行。我们开发了一种安全的在线控制器切换策略，根据验证结果在原始NNCS控制器和障碍物规避控制器之间切换。我们在ROS2 Flatland仿真环境中进行的实验，探索了使用POLAR-Express进行运行时验证的能力和局限性，并证明了我们切换策略的有效性。
引用
@article{arxiv.2408.08592,
title = {Case Study: Runtime Safety Verification of Neural Network Controlled System},
author = {Frank Yang and Sinong Simon Zhan and Yixuan Wang and Chao Huang and Qi Zhu},
journal= {arXiv preprint arXiv:2408.08592},
year = {2024}
}
备注
15 pages, 5 figures, submitted to Runtime Verification 2024