连续图模型的 Stein 变分消息传递
机器学习
2018-06-11 v3 机器学习
摘要
我们提出了一种用于连续图模型的新型分布式推断算法，通过将 Stein 变分梯度下降（SVGD）扩展以利用目标分布的马尔可夫依赖结构。我们的方法将 SVGD 与一组定义在每个节点马尔可夫毯上的结构化局部核函数相结合，从而缓解高维灾难并同时产生用于去中心化推断任务的分布式算法。我们通过理论分析论证了方法的正确性，并表明局部核的使用可视为一种新型局部化近似，其在每个节点关于其马尔可夫毯的条件分布上与目标分布匹配。我们的实证结果表明，该方法优于包括标准 MCMC 和粒子消息传递方法在内的多种基线。
引用
@article{arxiv.1711.07168,
title = {Stein Variational Message Passing for Continuous Graphical Models},
author = {Dilin Wang and Zhe Zeng and Qiang Liu},
journal= {arXiv preprint arXiv:1711.07168},
year = {2018}
}