通过一致性模型实现玻尔兹曼分布的高效且无偏采样
机器学习
2024-09-12 v1 机器学习
摘要
扩散模型在推动玻尔兹曼发生器方面显示出巨大的潜力。然而,仍存在两个关键挑战: (1)由于模型不完美,导致样本中固有的误差; (2)为获得高质量样本需要进行数百次功能评估(NFE)。虽然重要性抽样和蒸馏等现有解决方案分别解决了这些问题,但它们常常不兼容,因为大多数蒸馏模型缺乏必要的密度信息以进行重要性抽样。本文引入了一种新颖的采样方法,有效地将一致性模型(Consistency Models)与重要性抽样相结合。我们在合成能量函数和等变n体粒子系统上对该方法进行评估。我们的方法仅需6-25次NFE即可产生无偏样本,同时实现的有效样本量(Effective Sample Size, ESS)相当于需要约100次NFE的去噪扩散概率模型(DDPM)。
引用
@article{arxiv.2409.07323,
title = {Efficient and Unbiased Sampling of Boltzmann Distributions via Consistency Models},
author = {Fengzhe Zhang and Jiajun He and Laurence I. Midgley and Javier Antorán and José Miguel Hernández-Lobato},
journal= {arXiv preprint arXiv:2409.07323},
year = {2024}
}
备注
10 pages, 4 figures