中文

ADELIA:用于高效 Laplace 推断近似的自动微分

分布式、并行与集群计算 2026-05-08 v1 性能

摘要

时空贝叶斯推断利用潜在高斯模型驱动环境与健康科学。嵌套拉普拉斯近似(INLA)使得这些模型能够在 HPC 规模上进行推断,但依赖于对 dd 个超参数的基于导数的优化。最先进的 INLA 实现通过中心有限差分(FD)近似导数,需要 2d+12d{+}1 次求值。这些求值是高度可并行的,但总工作量和能耗随 dd 增长,限制了固定预算下的求解时间。反向模式自动微分(AD)计算与 dd 无关的精确梯度,但将其高效应用于 INLA 的结构化稀疏核仍是一个开放性挑战。我们提出了 ADELIA,这是首个支持 AD 的 INLA 实现,具有利用模型稀疏性的结构感知多 GPU 反向传播。我们在十个基准模型上评估了 ADELIA,包括真实世界的空气污染监测。我们实现了每梯度 4.24.2--7.9×7.9\times 的加速,并在具有多达 190 万个潜在变量的生产规模模型上实现了可靠收敛,而在这些模型上 FD 遇到了困难。即使扩展到 16--32 个 GPU 以匹配 ADELIA 的实际运行时间,FD 仍消耗 55--8×8\times 的能量。

关键词

引用

@article{arxiv.2605.06392,
  title  = {ADELIA: Automatic Differentiation for Efficient Laplace Inference Approximations},
  author = {Afif Boudaoud and Lisa Gaedke-Merzhäuser and Alexandros Nikolaos Ziogas and Vincent Maillou and Alexandru Calotoiu and Marcin Copik and Håvard Rue and Mathieu Luisier and Torsten Hoefler},
  journal= {arXiv preprint arXiv:2605.06392},
  year   = {2026}
}