通过基于抽象的训练驯服 DNN 控制系统的可达性分析
机器学习
2023-11-01 v2 人工智能
摘要
深度神经网络（DNNs）固有的复杂性使得不仅验证网络本身，而且验证承载它的 DNN 控制系统都具有挑战性。这些系统的可达性分析面临同样的挑战。现有方法依赖于使用更简单的多项式模型对 DNN 进行过近似。然而，它们效率低且过估计大，并且仅限于特定类型的 DNN。本文提出一种新颖的基于抽象的方法，以绕过可达性分析中 DNN 过近似这一难点。具体而言，我们通过插入一个额外的抽象层来扩展常规 DNN，该抽象层在训练中将实数抽象为区间。插入的抽象层确保区间所表示的值对于训练和决策而言对网络是不可区分的。利用这一点，我们设计了首个针对 DNN 控制系统的黑盒可达性分析方法，其中训练好的 DNN 仅作为黑盒预言机被查询其在抽象状态上的动作。我们的方法是可靠、紧致、高效的，并且与任何 DNN 类型和大小无关。在广泛基准上的实验结果表明，通过使用我们的方法训练的 DNN 表现出可比的性能，而相应系统的可达性分析变得更加易于处理，相较于最先进的白盒方法在紧致性和效率上有显著改进。
引用
@article{arxiv.2211.11127,
title = {Taming Reachability Analysis of DNN-Controlled Systems via Abstraction-Based Training},
author = {Jiaxu Tian and Dapeng Zhi and Si Liu and Peixin Wang and Guy Katz and Min Zhang},
journal= {arXiv preprint arXiv:2211.11127},
year = {2023}
}