NNV：面向深度神经网络与学习型信息物理系统的神经网络验证工具
系统与控制
2020-04-14 v1 机器学习
系统与控制
摘要
本文介绍神经网络验证（NNV）软件工具，一个面向深度神经网络（DNNs）与学习型信息物理系统（CPS）的基于集合的验证框架。NNV 的核心是一系列可达性算法，其利用了多种集合表示，如多面体、星集、zonotopes 与抽象域表示。NNV 支持精确（sound and complete）与过近似（sound）可达性算法，用于验证具有各类激活函数的前馈神经网络（FFNNs）的安全性与鲁棒性属性。对于学习型 CPS，例如集成了神经网络的闭环控制系统，NNV 为具有分段线性激活函数（如 ReLUs）的线性被控对象模型与 FFNN 控制器提供精确与过近似可达性分析方案。对于具有非线性被控对象模型的类似神经网络控制系统（NNCS），NNV 通过将在 FFNN 控制器上使用的星集分析与基于 zonotope 的非线性被控对象动力学分析（构建于 CORA 之上）相结合，支持过近似分析。我们使用两个真实案例研究评估 NNV：其一是 ACAS Xu 网络的安全性验证，其二是基于深度学习的自适应巡航控制系统的安全性验证。
引用
@article{arxiv.2004.05519,
title = {NNV: The Neural Network Verification Tool for Deep Neural Networks and Learning-Enabled Cyber-Physical Systems},
author = {Hoang-Dung Tran and Xiaodong Yang and Diego Manzanas Lopez and Patrick Musau and Luan Viet Nguyen and Weiming Xiang and Stanley Bak and Taylor T. Johnson},
journal= {arXiv preprint arXiv:2004.05519},
year = {2020}
}