基于预条件原始-对偶优化的可扩展均值场变分推断
宇宙学与河外天体物理
2026-02-10 v1 高能天体物理现象
广义相对论与量子宇宙学
摘要
在本工作中,我们从mini-batch原始-对偶视角出发,研究大规模均值场变分推断(MFVI)问题。通过将MFVI重新表述为受限求和问题,我们发展了一种基于增广拉格朗日公式的新型原始-对偶算法,称为原始-对偶变分推断(PD-VI)。PD-VI以可扩展的方式联合更新证据下界中的全局和局部变分参数。为进一步考虑不同变分参数块中异构损失几何,我们引入一种块预条件扩展,即PD-VI,该方法使原始-对偶更新适应每个参数块的几何,从而提高了数值鲁棒性和实际效率。我们在适当选择恒定步长的情况下,为PD-VI和PD-VI建立了收敛性保证,而无需依赖共轭假设或明确的有界方差条件。在 particular,我们证明在一般情况下以 收敛到平稳点,同时在强凸情况下实现线性收敛。在合成数据和一个真实大规模空间转录组数据集上的数值实验表明,我们的方法在收敛速度和解的质量方面 consistently 优于现有的随机变分推断方法。
引用
@article{arxiv.2602.07631,
title = {Gravitational Wave Informed Inference of 21-cm Global Signal Parameters},
author = {Avinash Tiwari and Sajad A. Bhat and Tirthankar Roy Choudhury and Susmita Adhikari and Mukesh Kumar Singh and Shasvath J. Kapadia},
journal= {arXiv preprint arXiv:2602.07631},
year = {2026}
}