贝叶斯神经网络中迭代预测的安全性认证
机器学习
2021-06-22 v2
摘要
我们考虑为基于贝叶斯神经网络（BNN）模型做出的迭代预测计算可达-避免（reach-avoid）概率的问题。具体而言，我们利用界传播技术与反向递归，计算 BNN 模型轨迹在避开一组不安全状态的同时到达给定状态集合的概率的下界。我们在控制与强化学习的背景下使用这些下界，为给定控制策略提供安全性认证，并综合出可改善认证界的控制策略。在一组基准上，我们证明了我们的框架可用于对超过 维问题上的 BNN 预测策略进行认证，并有效综合出能显著提高满足概率下界的策略。
引用
@article{arxiv.2105.10134,
title = {Certification of Iterative Predictions in Bayesian Neural Networks},
author = {Matthew Wicker and Luca Laurenti and Andrea Patane and Nicola Paoletti and Alessandro Abate and Marta Kwiatkowska},
journal= {arXiv preprint arXiv:2105.10134},
year = {2021}
}
备注
Accepted, UAI 2021. 17 pages