Sum-Product-Quotient Networks

我们提出了一种新颖的易处理生成模型，它扩展了 Sum-Product Networks (SPNs) 并显著提升了其能力。我们将其称为 Sum-Product-Quotient Networks (SPQNs)，其核心概念是通过使用商节点直接计算来将条件分布纳入模型，例如 $P(A|B) = \frac{P(A,B)}{P(B)}$。我们为 SPQNs 的易处理性提供了充分条件，这些条件推广并放宽了 SPNs 的可分解与完备易处理性条件。这些放宽的条件为模型的表达效率带来了指数级提升，即我们证明了存在某些分布，SPQNs 可以高效计算，但需要 SPNs 具有指数级大小。因此，我们缩小了易处理图模型与其他基于神经网络生成模型之间的表达能力差距。