PROVEN：以概率方法证明神经网络鲁棒性

随着深度神经网络为众多机器学习任务提供最先进的机器学习模型，量化这些模型的鲁棒性已成为一个重要研究领域。然而，多数研究文献仅关注\textit{最坏情况}设定，即神经网络的输入受到约束于 $\ell_p$ 球内的噪声扰动；且已提出若干算法基于此种最坏情况分析计算最小对抗失真认证下界。本文中，我们解决这些局限，并将该方法扩展至\textit{概率}设定，其中加性噪声可遵循给定的分布刻画。我们提出新颖的概率框架PROVEN，以统计保证对神经网络进行概率验证（PRObabilistically VErify Neural networks）——即PROVEN认证在给定输入受任何约束 $\ell_p$ 范数扰动时，分类器top-1预测无法被改变的概率。重要的是，我们表明可基于当前最先进的神经网络鲁棒性验证框架推导闭式概率证书。因此，当从Fast-Lin、CROWN与CNN-Cert等现有方法获取最坏情况认证下界时，PROVEN提供的概率证书自然产生且几乎无额外开销。在小型与大型MNIST及CIFAR神经网络模型上的实验表明，与CROWN给出的最坏情况鲁棒性证书相比，我们的概率方法能以至少 $99.99\%$ 的置信度在鲁棒性认证上取得最高约 $75\%$ 的提升。