中文

基于树分解级联的模型近似

信息论 2018-08-13 v1 机器学习 math.IT 机器学习

摘要

在本文中,我们提出了一种通用的多阶段框架,用于使用树等模型的级联进行图模型近似。具体而言,我们研究了将高斯分布的协方差矩阵近似视为树模型的线性变换这一问题。这是一种分解协方差矩阵的新方法。在此,我们提出一种算法,该算法结合 Cholesky 分解方法来计算分解矩阵,从而可以使用树近似变换的 Cholesky 分解级联来近似一个简单的图模型。Cholesky 分解使我们能够在算法的每个级联阶段获得树结构因子图,由于近似图相比原始图具有更少的环路,这便于使用消息传递算法。整体图是因子图的级联,每个因子图都是一棵树。这是关于近似模型的一种不同视角,并且诸如高斯置信传播之类的算法可用于该整体图。在此,我们给出理论结果,保证所提出的基于树分解级联的模型近似的收敛性。在仿真中,我们考察合成数据与真实数据,并通过比较 KL 散度来衡量所提框架的性能。

关键词

引用

@article{arxiv.1808.03504,
  title  = {Model Approximation Using Cascade of Tree Decompositions},
  author = {Navid Tafaghodi Khajavi and Anthony Kuh},
  journal= {arXiv preprint arXiv:1808.03504},
  year   = {2018}
}