权重具有无界方差的浅层无限宽贝叶斯神经网络的后验推断

从 Neal（1996）经典且有影响力的著作可知，当网络权重具有有界先验方差时，单隐藏层贝叶斯神经网络的无限宽缩放极限是高斯过程。Neal 的结果已扩展到具有多个隐藏层的网络以及卷积神经网络，同样具有高斯过程缩放极限。高斯过程的可处理性质随后允许直接进行后验推断与不确定性量化，与有限宽网络相比极大简化了极限过程的研究。然而，具有无界方差的神经网络权重带来了独特挑战。在此情形下，经典中心极限定理失效，且众所周知在适当条件下缩放极限是 $\alpha$-稳定过程。但当前文献主要局限于这些过程下的前向模拟，且不同于高斯过程情形，此类缩放极限下的后验推断问题在很大程度上未被解决。为此，我们的贡献是一种可解释且计算高效的用于后验推断的过程，利用条件高斯表示，从而在非高斯情形下充分利用高斯过程机制进行可处理的后验推断与不确定性量化。