贝叶斯神经网络的无限时间域安全性
机器学习
2021-11-08 v1
摘要
贝叶斯神经网络(BNNs)在神经网络的权重上放置分布,以建模数据和网络预测中的不确定性。我们考虑在无限时间域系统中以反馈回路运行贝叶斯神经网络策略时验证安全性的问题。与现有的基于采样的方法(不适用于无限时间域设定)相比,我们训练一个独立的确定性神经网络作为无限时间域安全证书。特别地,我们证明该证书网络在 BNN 权重后验支撑集的一个子集上保证系统的安全性。我们的方法首先计算一个安全权重集,然后改变 BNN 的权重后验以拒绝该集之外的样本。此外,我们展示如何将我们的方法扩展到安全探索强化学习设定,以避免在策略训练期间的不安全轨迹。我们在一系列强化学习基准上评估了我们的方法,包括非 Lyapunov 安全规范。
引用
@article{arxiv.2111.03165,
title = {Infinite Time Horizon Safety of Bayesian Neural Networks},
author = {Mathias Lechner and Đorđe Žikelić and Krishnendu Chatterjee and Thomas A. Henzinger},
journal= {arXiv preprint arXiv:2111.03165},
year = {2021}
}
备注
To appear in NeurIPS 2021