基于随机集成方法的贝叶斯后验近似
机器学习
2024-01-04 v3 计算机视觉与模式识别
机器学习
摘要
我们引入随机神经网络集成以近似贝叶斯后验，将 dropout 等随机方法与深度集成相结合。该随机集成被表述为分布族，并通过变分推断训练以近似贝叶斯后验。我们基于蒙特卡洛 dropout、DropConnect 以及一种新颖的非参数 dropout 版本实现了随机集成，并在一个玩具问题与 CIFAR 图像分类上进行了评估。对两项任务，我们直接针对哈密顿蒙特卡洛模拟检验了后验的质量。结果表明，随机集成相较其他流行的贝叶斯推断基线提供了更精确的后验估计。
引用
@article{arxiv.2212.08123,
title = {Bayesian posterior approximation with stochastic ensembles},
author = {Oleksandr Balabanov and Bernhard Mehlig and Hampus Linander},
journal= {arXiv preprint arXiv:2212.08123},
year = {2024}
}
备注
19 pages, CVPR 2023