基于高斯过程分类的对抗鲁棒性保证

我们研究了高斯过程分类（Gaussian Process Classification, GPC）模型的对抗鲁棒性。给定输入空间中包含测试点 $x^*$ 的紧致子集 $T\subseteq \mathbb{R}^d$ 和在数据集 $\mathcal{D}$ 上训练的 GPC，我们的目标是计算 GPC 在 $T$ 中所有点上的最小和最大分类概率。为此，我们展示了如何推导在 $T$ 中界定 GPC 输出下界和上界的函数，并将其实现于分支定界优化算法中。对于先验选定的任意误差阈值 $\epsilon > 0$，我们证明我们的算法保证在有限次迭代内达到与实际值 $\epsilon$-接近的值。我们应用该方法研究了 GPC 模型在 2D 合成数据集、SPAM 数据集和 MNIST 数据集子集上的鲁棒性，提供了不同 GPC 训练技术的比较，并展示了如何将我们的方法用于可解释性分析。我们的实证分析表明，GPC 的鲁棒性随着后验估计精度的提高而增加。