BayesDLL：贝叶斯深度学习库
机器学习
2023-09-25 v1 机器学习
摘要
我们发布了一个面向 PyTorch 的新的贝叶斯神经网络库，用于大规模深度网络。我们的库实现了主流近似贝叶斯推断算法：变分推断、MC-dropout、随机梯度 MCMC 以及拉普拉斯近似。与其他现有贝叶斯神经网络库的主要区别如下：1) 我们的库可处理包括 Vision Transformers（ViTs）在内的超大规模深度网络。2) 用户几乎无需修改代码（例如，骨干网络定义代码完全无需修改）。3) 我们的库还允许将预训练模型权重作为先验均值，这对于对诸如 ViTs 等难以仅凭下游数据从头优化的超大规模基础模型执行贝叶斯推断非常有用。我们的代码公开于：\url{https://github.com/SamsungLabs/BayesDLL}\footnote{镜像仓库亦可用：\url{https://github.com/minyoungkim21/BayesDLL}。}。
引用
@article{arxiv.2309.12928,
title = {BayesDLL: Bayesian Deep Learning Library},
author = {Minyoung Kim and Timothy Hospedales},
journal= {arXiv preprint arXiv:2309.12928},
year = {2023}
}