SAVER：基于抽样的神经网络概率验证工具箱
机器学习
2024-12-05 v1 人工智能
摘要
我们提出了一个神经网络验证工具箱，用于1)评估约束满足概率，以及2)合成实现满足概率的集合扩展因子。具体而言，该工具箱在用户指定的置信水平下，判断神经网络对于给定输入分布的输出是否可能包含在给定集合中。若工具确定给定集合无法满足概率约束，工具还实现了本文中概述的方法，通过改变约束集合来确保实现用户定义的满足概率。该工具箱由基于抽样的方法组成，这些方法利用符号距离函数的特性来定义集合包含关系。
引用
@article{arxiv.2412.02940,
title = {SAVER: A Toolbox for Sampling-Based, Probabilistic Verification of Neural Networks},
author = {Vignesh Sivaramakrishnan and Krishna C. Kalagarla and Rosalyn Devonport and Joshua Pilipovsky and Panagiotis Tsiotras and Meeko Oishi},
journal= {arXiv preprint arXiv:2412.02940},
year = {2024}
}
备注
7 pages, 8 figures, submitted to the 28th ACM International Conference on Hybrid Systems: Computation and Control