生成流网络的变分视角
机器学习
2022-10-17 v1 机器学习
摘要
生成流网络（GFNs）是一类用于对复合对象进行序列采样的模型，其近似一个由能量函数或奖励定义的目标分布。GFNs通常使用流匹配或轨迹平衡目标进行训练，该目标匹配轨迹上的前向与后向转移模型。在这项工作中，我们根据前向分布与后向分布之间的Kullback-Leibler（KL）散度定义GFNs的变分目标。我们表明，当从前向模型采样轨迹时，GFNs中的变分推断等价于最小化轨迹平衡目标。我们通过优化反向与正向KL散度的凸组合推广了这一方法。这一见解表明，变分推断方法可作为定义更广义的训练生成流网络目标族的手段，例如通过引入变分推断中常用的控制变量来降低轨迹平衡目标梯度的方差。我们通过在两个合成任务上将所提出的变分目标与轨迹平衡目标进行比较，对 our findings 及所提变分目标的性能进行了数值评估。
引用
@article{arxiv.2210.07992,
title = {A Variational Perspective on Generative Flow Networks},
author = {Heiko Zimmermann and Fredrik Lindsten and Jan-Willem van de Meent and Christian A. Naesseth},
journal= {arXiv preprint arXiv:2210.07992},
year = {2022}
}