面向混合域的 Sum-Product Networks
机器学习
2017-11-07 v3 机器学习
摘要
随着各类混合数据——从个人数据、面板数据和科学数据,到公共和商业数据——不断被收集和存储,为这些混合域构建概率图模型变得更加困难。用户需要花费大量时间来确定所涉及的随机变量的参数形式(Gaussian、Poisson、Logit 等)并学习混合模型。为了简化这一困难任务,我们提出了首个面向混合域的可训练概率深度架构,该架构支持可处理查询。它基于具有分段多项式叶分布的 Sum-Product Networks (SPNs),并结合了使用 Hirschfeld-Gebelein-Rényi 最大相关系数的新型非参数分解与条件化步骤。这免除了用户预先决定随机变量参数形式的需要,同时仍具有足够的表达能力来有效逼近任何连续分布,并允许高效的学习与推断。我们的实验证据表明,这种被称为 Mixed SPNs 的架构确实能够捕获广泛混合域中的复杂分布。
引用
@article{arxiv.1710.03297,
title = {Sum-Product Networks for Hybrid Domains},
author = {Alejandro Molina and Antonio Vergari and Nicola Di Mauro and Sriraam Natarajan and Floriana Esposito and Kristian Kersting},
journal= {arXiv preprint arXiv:1710.03297},
year = {2017}
}
备注
16 Pages, 5 Figures