中文

面向生成流网络的泛化研究

机器学习 2024-07-04 v1

摘要

生成式流网络(GFlowNets)已涌现作为一种创新的学习范式,用于解决从未归一化概率分布(即奖励函数)中进行采样的挑战。该框架在构建的图上学习策略,通过连续的采样步骤从所学策略中对目标概率分布的近似进行采样。为实现此目标,GFlowNets 可使用各种目标进行训练,每个目标都可能导致模型的最终目标。GFlowNets 的理想水平在于其潜在能够 discern 奖励函数中复杂模式的能力,以及其有效泛化到新颖、未见过奖励函数部分的能力。本文旨在正式化 GFlowNets 语境下的泛化,将泛化与稳定性关联,并设计实验以评估这些模型发现未见奖励函数部分的能力。实验将聚焦于长度泛化,即对仅通过训练中未见更长轨迹才能构建的状态进行泛化。

关键词

引用

@article{arxiv.2407.03105,
  title  = {On Generalization for Generative Flow Networks},
  author = {Anas Krichel and Nikolay Malkin and Salem Lahlou and Yoshua Bengio},
  journal= {arXiv preprint arXiv:2407.03105},
  year   = {2024}
}