关于求和-乘积网络中的潜变量解释
摘要
求和-乘积网络（SPNs）的核心主题之一是将求和节点解释为边缘化潜变量（LVs）。这种解释带来了增加的语法或语义结构，允许应用 EM 算法并高效执行 MPE 推理。在文献中，LV 解释通过显式引入对应于 LVs 状态的指示变量来证明其合理性。然而，正如本文所指出的，这种方法与 SPNs 中的完备性条件相冲突，并且未完全指定概率模型。我们通过对引入 LVs 的原始方法进行修改（称之为 SPN 增强）来解决此问题。我们讨论了增强 SPNs 中的条件独立性，正式确立了求和权重的概率解释，并给出了增强 SPNs 作为贝叶斯网络的解释。基于这些结果，我们找到了 SPNs 的 EM 算法的可靠推导。此外，文献中提出的用于 MPE 的 Viterbi 式算法从未被证明是正确的。我们表明，当应用于选择性 SPNs 时，特别是应用于增强 SPNs 时，这确实是一个正确的算法。我们的理论结果在合成数据和 103 个真实世界数据集上的实验中得到证实。
引用
@article{arxiv.1601.06180,
title = {On the Latent Variable Interpretation in Sum-Product Networks},
author = {Robert Peharz and Robert Gens and Franz Pernkopf and Pedro Domingos},
journal= {arXiv preprint arXiv:1601.06180},
year = {2016}
}
备注
Revised version, accepted for publication in IEEE Transactions on Machine Intelligence and Pattern Analysis (TPAMI). Shortened and revised Section 4: Thanks to our reviewers, pointing out that Theorem 2 holds for selective SPNs. Added paragraph in Section 2.1, relating sizes of original/augmented SPNs. Fixed typos, rephrased sentences, revised references