验证基于卷积神经网络的感知控制器：一种可理解、安全且精确的抽象方法
机器人学
2023-09-13 v1 软件工程
摘要
用于目标检测、车道检测和分割的卷积神经网络（CNN）如今位于大多数自动驾驶流水线的前端，然而其安全性分析仍是一项重要挑战。感知模型的形式化分析从根本上说是困难的，因为其正确性难以甚至不可能被形式化规定。我们提出了一种技术，从系统级安全需求、数据以及感知下游模块的程序分析出发，推断感知模型的可理解且安全的抽象。该技术在创建抽象及后续验证时，有助于权衡安全性、规模和精确性。我们将该方法应用于两个基于高保真仿真的重要案例研究：（a）自动驾驶车辆的基于视觉的车道保持控制器，以及（b）农业机器人控制器。我们展示了生成的抽象如何与下游模块组合，随后所得抽象系统可使用 CBMC 等程序分析工具进行验证。对规模、安全需求和环境参数（如光照、路面、植物类型）对生成抽象精确性影响的详细评估表明，该方法有助于指导寻找corner case和安全操作包络。
引用
@article{arxiv.2111.05534,
title = {Verifying Controllers with Convolutional Neural Network-based Perception: A Case for Intelligible, Safe, and Precise Abstractions},
author = {Chiao Hsieh and Keyur Joshi and Sasa Misailovic and Sayan Mitra},
journal= {arXiv preprint arXiv:2111.05534},
year = {2023}
}
备注
12 pages, 9 figures, submitted to HSCC 2022