中文

基于重参数化与树重加权与置信传播算法间插值的精确分数推断

机器学习 2024-11-14 v4 统计力学

摘要

在具有 NN 个“自旋”的图上计算伊辛模型的配分函数 ZZ 很可能关于 NN 是指数的。高效的变分方法,如置信传播(BP)和树重加权(TRW)算法,通过最小化各自的(BP或TRW)自由能来近似计算 ZZ。我们通过构建 λ\lambda-分数插值 Z(λ)Z^{(\lambda)} 推广该变分方案,其中 λ=0\lambda=0λ=1\lambda=1 分别对应TRW和BP近似。这一分数方案——称为分数置信传播(FBP)——保证在吸引(铁磁)情形下 Z(TRW)Z(λ)Z(BP)Z^{(TRW)} \geq Z^{(\lambda)} \geq Z^{(BP)},且存在唯一的(“精确”)λ\lambda_* 使得 Z=Z(λ)Z=Z^{(\lambda_*)}。推广 \citep{wainwright_tree-based_2002} 的重参数化方法和 \citep{chertkov_loop_2006} 的环级数方法,我们展示如何将 ZZ 表达为乘积 λ: Z=Z(λ)Z~(λ)\forall \lambda:\ Z=Z^{(\lambda)}{\tilde Z}^{(\lambda)},其中乘性修正 Z~(λ){\tilde Z}^{(\lambda)} 是基于节点独立概率分布(由节点级分数边缘概率构建)的期望。我们的理论分析辅以对来自平面和随机图上中型及大型伊辛系综模型的广泛实验。我们的实证研究得出若干有趣观察,例如能用 O(N2::4)O(N^{2::4}) 个分数样本估计 Z~(λ){\tilde Z}^{(\lambda)},以及对来自特定随机伊辛系综的实例,随着 NN 增大 λ\lambda_* 估计的波动被抑制,其中 [2::4][2::4] 表示 2244 的范围。我们还讨论了该方法在图像去噪问题上的适用性。

关键词

引用

@article{arxiv.2301.10369,
  title  = {Exact Fractional Inference via Re-Parametrization & Interpolation between Tree-Re-Weighted- and Belief Propagation- Algorithms},
  author = {Hamidreza Behjoo and Michael Chertkov},
  journal= {arXiv preprint arXiv:2301.10369},
  year   = {2024}
}