流式贝叶斯GFlowNets
机器学习
2024-11-12 v1
摘要
贝叶斯规则自然地允许以流式方式进行推理细化，而无需在每次新数据到达时从头重新计算后验。从原则上讲，贝叶斯流式处理是直接的：我们用可用数据更新先验，并将得到的后验用作处理下一个数据块时的先验。然而，在实践中，这一方法涉及i）在每个时间步近似一个不可处理的后验；以及ii）适当地封装结果以允许后验传播。对于连续状态空间，变分推断（VI）因其可扩展性和变分后验的可处理性而特别方便。然而，对于离散状态空间，现有的VI会产生分析上不可处理的近似，不适合流式设置。为了在离散参数空间上实现流式贝叶斯推断，我们提出了流式贝叶斯GFlowNets（简称SB-GFlowNets），利用了最近提出的GFlowNets——一种用于离散组合对象的强大摊销采样器类。值得注意的是，SB-GFlowNet使用标准GFlowNet近似初始后验，随后仅使用新观测数据对其进行更新。我们的线性偏好学习和系统发育推断案例研究展示了SB-GFlowNets在流式设置中从非归一化后验采样的有效性。正如预期的那样，我们也观察到SB-GFlowNets比从头反复训练GFlowNet以从完整后验采样显著更快。
引用
@article{arxiv.2411.05899,
title = {Streaming Bayes GFlowNets},
author = {Tiago da Silva and Daniel Augusto de Souza and Diego Mesquita},
journal= {arXiv preprint arXiv:2411.05899},
year = {2024}
}
备注
25 pages, 8 figures