基于能量型 GFlowNet 的一致训练用于离散联合分布建模

生成流网络（GFlowNets）在给定奖励函数 $R(x)$（指示对象 $x$ 的效用并通过监督学习独立于 GFlowNet 训练以根据 $x$ 预测期望属性 $y$）的情况下，于生成多样化离散对象方面展现出显著的性能提升。我们假设这可能导致训练 $R$ 与训练 GFlowNet 中的归纳优化偏置之间的不兼容，并可能造成更差的样本以及对分布变化的缓慢适应。在本工作中，我们基于近期关于联合学习基于能量的模型与 GFlowNets 的研究，将其扩展至对多个变量的联合分布学习，称之为联合能量型 GFlowNets（JEBGFNs），例如肽序列及其抗菌活性。作为 GFlowNet 奖励函数使用的基于能量的模型的联合学习，可解决不兼容问题，因为奖励函数 $R$ 与 GFlowNet 采样器是联合训练的。我们发现这种联合训练或联合能量型公式在生成抗微生物肽方面带来了显著改进。由于训练序列源于针对高抗生素活性的进化或人工选择，序列分布中 presumably 存在某种结构可揭示关于抗生素活性的信息。这带来了对其联合生成式建模相对于纯判别建模的优势。我们还在主动学习设定下评估了 JEBGFN 以发现抗微生物肽。