基于高效概率 Hull 生成的神经网络概率性验证
人工智能
2026-04-24 v1 软件工程
摘要
神经网络的概率性验证问题研究当输入由概率分布给出时，满足安全约束的输出空间中安全概率。当输入受到常建模为概率变量的扰动影响时，这一问题具有重要意义。在论文中，我们提出了一种新颖的神经网络概率性验证框架，通过高效寻找安全和不安全的概率 Hull 来计算安全概率的保证范围。我们的方法包含三个主要创新：(1) 使用回归树进行状态空间分划以生成概率 Hull，(2) 一种边界感知抽样方法，该方法使用用于构建回归树的样本来识别输入空间中的安全边界，(3) 用于计算安全概率保证范围的迭代细化与概率优先级。在包括 ACAS Xu 和火箭着陆控制器在内的各种基准测试上评估了方法的准确性和效率。结果显示相较于现有方法具有显著优势。
引用
@article{arxiv.2604.21556,
title = {Probabilistic Verification of Neural Networks via Efficient Probabilistic Hull Generation},
author = {Jingyang Li and Xin Chen and Hongfei Fu and Guoqiang Li},
journal= {arXiv preprint arXiv:2604.21556},
year = {2026}
}
备注
22 pages, 5 figures