中文

用于玻尔兹曼生成器的基于回归的高效归一化流训练

机器学习 2025-10-31 v2 人工智能 机器学习

摘要

无模拟训练框架一直处于连续空间生成式建模革命的前沿,催生了大规模扩散和流匹配模型。然而,此类现代生成式模型存在推理成本高昂的问题,阻碍了它们在众多科学应用中的使用,例如需要快速似然评估的用于分子构象的玻尔兹曼生成器。在本文中,我们在 BGs 的背景下重新审视了经典的归一化流,它提供了高效的采样和似然计算,但其通过最大似然进行的训练通常不稳定且在计算上具有挑战性。我们提出了归一化流的回归训练(RegFlow),这是一种新颖且可扩展的基于回归的训练目标,它以简单的 2\ell_2 回归目标取代了传统最大似然训练的数值不稳定性和计算挑战。具体而言,RegFlow 利用我们的流将先验样本映射到使用最优传输耦合或预训练连续归一化流(CNF)计算出的目标。为了增强数值稳定性,RegFlow 采用了有效的正则化策略,例如一种易于实现的新型前向-后向自洽性损失。在实验中,我们证明 RegFlow 解锁了更广泛的架构类别,这些架构此前对于使用最大似然训练 BGs 而言是难以处理的。我们还表明,在丙氨酸二肽、三肽和四肽的笛卡尔坐标平衡采样中,RegFlow 在性能、计算成本和稳定性方面均超越了最大似然训练,展示了其在分子系统中的潜力。

关键词

引用

@article{arxiv.2506.01158,
  title  = {Efficient Regression-Based Training of Normalizing Flows for Boltzmann Generators},
  author = {Danyal Rehman and Oscar Davis and Jiarui Lu and Jian Tang and Michael Bronstein and Yoshua Bengio and Alexander Tong and Avishek Joey Bose},
  journal= {arXiv preprint arXiv:2506.01158},
  year   = {2025}
}

备注

Preprint; ICML GenBio Best Paper Award 2025