中文

通过求和-乘积网络在混合域中进行可处理查询与学习

机器学习 2018-09-20 v3 人工智能 机器学习

摘要

概率表示(如贝叶斯网络与马尔可夫网络)是统计机器学习诸多领域的基础。因此,直接从数据中学习概率表示是一项深层挑战,其主要计算瓶颈在于推理的难处理性。可处理学习是一种强大的新范式,试图学习支持高效概率查询的分布。通过利用局部结构,求和-乘积网络(SPNs)等表示能够捕获具有高树宽、多隐藏层的模型(本质上是深度架构),同时仍允许一系列概率查询在网络规模多项式时间内可计算。SPNs中的叶节点(更复杂的混合分布由其构成)是可处理的单变量分布,因此文献集中于伯努利和高斯随机变量。这对于处理混合离散-连续数据显然是一种限制,尤其是当连续特征由非参数和非高斯分布族生成时。本工作中,我们提出一个框架,通过密度函数的分段多项式逼近,将SPN结构学习与加权模型积分(一种近期提出的用于混合域推理的计算抽象)系统性地结合。我们的框架通过利用命题抽象的概念来实现,从而最小程度地干扰SPN结构学习模块,并支持用于区间约束条件查询的强大查询接口。我们的实证结果表明该方法有效,并允许研究所学模型粒度与其预测能力之间的权衡。

关键词

引用

@article{arxiv.1807.05464,
  title  = {Tractable Querying and Learning in Hybrid Domains via Sum-Product Networks},
  author = {Andreas Bueff and Stefanie Speichert and Vaishak Belle},
  journal= {arXiv preprint arXiv:1807.05464},
  year   = {2018}
}

备注

Accepted at the 2018 KR Workshop on Hybrid Reasoning and Learning