作为后验贝叶斯神经网络无限宽极限的学生t过程
机器学习
2025-02-07 v1 机器学习
概率论
摘要
贝叶斯神经网络（BNNs）的渐近性质已被广泛研究，特别是其在无限宽极限下由高斯过程逼近的性质。我们通过展示后验BNNs可由学生t过程逼近来扩展这些结果，后者在建模不确定性方面提供了更大的灵活性。具体而言，我们证明，如果BNN的参数服从高斯先验分布，且最后一个隐藏层的方差和高斯似然函数的方差均服从逆伽马先验分布，则所得的后验BNN在无限宽极限下收敛于一个学生t过程。我们的证明利用Wasserstein度量来建立对学生t过程逼近收敛速率的控制。
引用
@article{arxiv.2502.04247,
title = {Student-t processes as infinite-width limits of posterior Bayesian neural networks},
author = {Francesco Caporali and Stefano Favaro and Dario Trevisan},
journal= {arXiv preprint arXiv:2502.04247},
year = {2025}
}