以计算密集型目标概率分布训练归一化流
机器学习
2024-02-29 v2 统计力学
高能物理 - 格点
摘要
机器学习技术,特别是所谓的归一化流,在蒙特卡洛模拟中日益流行,因为它们能有效近似目标概率分布。在格点场论(LFT)中,目标分布由作用量的指数给出。基于“重参数化技巧”的常用损失函数梯度估计器需要计算作用量对场的导数。对于复杂、非局域的作用量(例如 QCD 中的费米子作用量),这可能带来显著的计算成本。在本文中,我们提出一种基于 REINFORCE 算法的归一化流估计器以避免此问题。我们将其应用于临界处的二维 Schwinger 模型(含 Wilson 费米子),表明其在挂钟时间上最多快十倍,且比重参数化技巧估计器最多少需 的内存。它还具有更好的数值稳定性,允许单精度计算和半精度张量核的使用。我们深入分析了这些改进的起源。我们相信这些益处也将出现在 LFT 领域之外,凡目标概率分布计算密集型之处皆然。
引用
@article{arxiv.2308.13294,
title = {Training normalizing flows with computationally intensive target probability distributions},
author = {Piotr Bialas and Piotr Korcyl and Tomasz Stebel},
journal= {arXiv preprint arXiv:2308.13294},
year = {2024}
}
备注
16 pages, 5 figures, 6 tables, 3 listings. Revised version as published in CPC. Added results for a other values of hoping parameter