面向直接感知神经网络的安全性验证
软件工程
2019-11-22 v2 机器学习
摘要
我们研究直接感知神经网络的安全性验证问题，其中相机图像被用作输入以产生供自动驾驶车辆进行控制决策的高层特征。直接感知神经网络的形式化验证极具挑战性，因为难以将规范表述为需要刻画输入作为约束的条件，同时此类网络的神经元数量可达数百万。我们通过学习一个输入属性刻画器来处理规范问题，该刻画器在接近输出的层仔细扩展直接感知神经网络，并通过一种新颖的基于假设-保证的验证方法来解决可扩展性问题。所提出的工作流被用于理解一个直接感知神经网络（由奥迪开发），该网络计算自动驾驶车辆要跟随的下一个路径点与朝向。
引用
@article{arxiv.1904.04706,
title = {Towards Safety Verification of Direct Perception Neural Networks},
author = {Chih-Hong Cheng and Chung-Hao Huang and Thomas Brunner and Vahid Hashemi},
journal= {arXiv preprint arXiv:1904.04706},
year = {2019}
}
备注
Revised text (2nd version). The research work is conducted during the first author's service at the fortiss research institute and is supported by the following projects: "Audi Verifiable AI" from Audi AG, Germany and "Dependable AI for automotive systems" from DENSO Corporation, Japan