Push：面向贝叶斯深度学习的并发概率编程
机器学习
2023-10-03 v2 人工智能
编程语言
摘要
我们介绍一个名为 Push 的库，它采用概率编程方法来实现贝叶斯深度学习（BDL）。该库能够在多 GPU 硬件上针对神经网络（NN）模型并发执行 BDL 推理算法。为此，Push 引入了一种抽象，将输入的 NN 表示为一个粒子。Push 便于轻松创建粒子，从而可以复制输入 NN，且粒子可异步通信，以便表达多种参数更新，包括常见的 BDL 算法。我们希望 Push 通过简化粒子跨 GPU 的扩展来降低 BDL 实验的门槛。我们在单节点多 GPU 设备上针对视觉和科学机器学习（SciML）任务评估了粒子的扩展行为。
引用
@article{arxiv.2306.06528,
title = {Push: Concurrent Probabilistic Programming for Bayesian Deep Learning},
author = {Daniel Huang and Chris Camaño and Jonathan Tsegaye and Jonathan Austin Gale},
journal= {arXiv preprint arXiv:2306.06528},
year = {2023}
}
备注
preprint