令人尴尬的并行GFlowNet

GFlowNet是离散组合随机变量MCMC采样的有前景替代方案。训练GFlowNet需要对未归一化的目标分布或奖励函数进行重复评估。然而，对于大规模后验采样，这可能因需要多次遍历数据而变得不可行。此外，如果数据分布在多个客户端上，使用标准GFlowNet会导致密集的客户端-服务器通信。为缓解这两个问题，我们提出了令人尴尬的并行GFlowNet（EP-GFlowNet）。EP-GFlowNet是一种可证明正确的分治方法，用于从形如$R(\cdot) \propto R_1(\cdot) ... R_N(\cdot)$的乘积分布中采样——例如，在并行或联邦贝叶斯中，每个$R_n$是定义在数据分区上的局部后验。首先，并行地，我们训练一个针对每个$R_n$的局部GFlowNet，并将得到的模型发送到服务器。然后，服务器通过强制执行我们新提出的\emph{聚合平衡}条件来学习全局GFlowNet，这仅需一个通信步骤。重要的是，EP-GFlowNet还可应用于多目标优化和模型复用。我们的实验展示了EP-GFlowNet在多项任务上的有效性，包括并行贝叶斯系统发育学、多目标多集、序列生成和联邦贝叶斯结构学习。