置信传播的不动点——基于多项式同伦延拓的分析
机器学习
2017-05-31 v3 代数几何
摘要
置信传播（BP）是一种在任意图模型上执行近似推断的迭代方法。BP是否收敛以及解是否为唯一不动点取决于模型的结构与参数化。为理解这种依赖性，找出所有不动点颇有价值。本工作中，我们构建了一组多项式方程，其解对应于BP不动点。为求解此类非线性系统，我们提出数值多项式同伦延拓（NPHC）方法。在二元伊辛（Ising）模型与纠错码上的实验表明，我们的方法能够获取所有BP不动点。在固定参数的伊辛模型上，我们展示了结构如何影响不动点数量与收敛性质。我们进一步评估了边缘概率及其加权组合的精度。以各自配分函数对边缘概率加权在所有实验中均提高了精度。与“BP不动点唯一性意味着收敛”的猜想相反，我们发现了一些图，尽管存在唯一不动点，BP仍无法收敛。此外，我们表明该不动点给出了良好近似，且NPHC方法能够求得此不动点。
引用
@article{arxiv.1605.06451,
title = {Fixed Points of Belief Propagation -- An Analysis via Polynomial Homotopy Continuation},
author = {Christian Knoll and Franz Pernkopf and Dhagash Mehta and Tianran Chen},
journal= {arXiv preprint arXiv:1605.06451},
year = {2017}
}