贝叶斯神经网络中概率鲁棒性的紧致验证
机器学习
2024-03-01 v2 人工智能
形式语言与自动机理论
计算机科学中的逻辑
摘要
我们提出了两种算法，用于计算贝叶斯神经网络概率鲁棒性的紧致保证。计算BNN的鲁棒性保证比验证标准神经网络鲁棒性更具挑战性，因为它需要在参数空间中搜索安全权重。此外，用于验证标准NN的紧致且完备的方法（例如基于混合整数线性规划的方法）不能直接用于验证BNN，因为权重编码变量的连续相乘会产生多项式项。我们的算法通过迭代扩展和网络梯度，高效且有效地搜索参数空间中的安全权重，并且可以与任何选定的BNN验证算法一起使用。除了证明我们的算法计算出的界比现有技术更紧致外，我们还在标准基准（如MNIST和CIFAR10）上对算法与现有技术进行了评估，结果表明我们的算法计算出的界比现有技术紧致多达40%。
引用
@article{arxiv.2401.11627,
title = {Tight Verification of Probabilistic Robustness in Bayesian Neural Networks},
author = {Ben Batten and Mehran Hosseini and Alessio Lomuscio},
journal= {arXiv preprint arXiv:2401.11627},
year = {2024}
}
备注
Accepted at AISTATS 2024