中文

概率图模型中的自适应变分推断:超越 Bethe、树重加权与凸自由能

机器学习 2025-02-06 v1 人工智能 机器学习

摘要

概率图模型中的变分推断旨在近似边缘分布和配分函数等基本量。流行的方法包括 Bethe 近似、树重加权以及其他类型的凸自由能。这些近似方法效率高,但如果模型复杂且高度交互,则可能失效。在这项工作中,我们分析了两类包含上述方法作为特例的近似:第一类,如果模型参数被改变;第二类,如果熵近似被改变。我们讨论了两种方法的优缺点,并由此分析推导出理想情况下应如何构建自由能近似。基于我们的观察,我们提出了能自动适应给定模型的近似方法,并在一系列困难问题上展示了它们的有效性。

关键词

引用

@article{arxiv.2502.03341,
  title  = {Adaptive Variational Inference in Probabilistic Graphical Models: Beyond Bethe, Tree-Reweighted, and Convex Free Energies},
  author = {Harald Leisenberger and Franz Pernkopf},
  journal= {arXiv preprint arXiv:2502.03341},
  year   = {2025}
}

备注

This work has been submitted to the Conference on Uncertainty in Artificial Intelligence (UAI) 2025 for possible publication