论题:sampling 时代已至!为贝叶斯深度学习绘制新路线图
机器学习
2026-05-22 v1
摘要
采样基推断 (SAI) 在贝叶斯神经网络 (BNN) 中的实际采纳仍受限,部分原因是关于采样可行性与效率的持续误解。本立场论文论证称,SAI 已在计算上与基于优化的方法实现了持平,并正逼近取代此类方法,以实现 BNN 高效推断。此种发展应符合整个社区的利益,推动 BNN 成为一种原则性范式,其长期却未实现的承诺——为神经网络提供原则性不确定性量化。SAI 还能做更多——通过模型平均实现优异的预测性能,为众多可能的下游任务奠定基础,并提供对 BNN 图景的关键洞察。为实现这一改变并发挥采样的潜力,克服当前误解是必要的第一步。下一步是重新对齐研究努力,聚焦于 SAI 剩余挑战。特别是,社区必须关注两个核心问题:后验图景的充分探索以及后验样本的高保真提炼,以实现高效的下游推断。通过解决概念和实际障碍,我们才能释放 SAI 的全部潜力,并将其确立为贝叶斯深度学习中的核心工具。
引用
@article{arxiv.2605.21765,
title = {Position: The Time for Sampling Is Now! Charting a New Course for Bayesian Deep Learning},
author = {Emanuel Sommer and David Rügamer},
journal= {arXiv preprint arXiv:2605.21765},
year = {2026}
}
备注
In Proceedings of the 43rd International Conference on Machine Learning, PMLR 306, 2026