和积网络参数学习的统一方法
机器学习
2016-08-29 v4 人工智能
摘要
我们提出了一种用于学习和积网络(SPNs)参数的统一方法。我们证明了任何完整且可分解的SPN等价于树混合模型,其中每棵树对应于单变量分布的乘积。基于混合模型视角,我们刻画了基于最大似然估计(MLE)原理学习SPN时的目标函数,并表明该优化问题可表述为符号规划(signomial program)。我们通过分别使用顺序单项式近似(SMA)和凹凸过程(CCCP)构建了两种SPN参数学习算法。这两种提出的方法自然允许乘法更新,从而有效避免投影操作。借助统一框架,我们还表明,在SPN的情况下,CCCP会导致与期望最大化(EM)相同的算法,尽管一般而言它们是不同的。
引用
@article{arxiv.1601.00318,
title = {A Unified Approach for Learning the Parameters of Sum-Product Networks},
author = {Han Zhao and Pascal Poupart and Geoff Gordon},
journal= {arXiv preprint arXiv:1601.00318},
year = {2016}
}
备注
NIPS 2016