关于和学习求和-乘积网络的样本复杂度

求和-乘积网络（SPNs）可被视为一种深度图模型，紧凑地表示深度分解和混合的分布。一个 SPN 是一个有根有向无环图（DAG），由一组叶子（对应于基分布）、一组求和节点（表示其子分布的混合）和一组乘积节点（表示其子分布的乘积）组成。在这项工作中，我们开启了对 PAC-学习对应于 SPNs 的分布集合的样本复杂度的研究。我们证明，学习具有通常类型叶子（即高斯或离散）的树结构 SPNs 的样本复杂度至多随 SPN 的参数数量线性（直至对数因子）增长。更具体地，我们证明对应于具有 $k$ 个混合权重和 $e$ 个（$d$ 维高斯）叶子的树结构高斯 SPNs 的分布类可以在总变差误差 $\epsilon$ 内使用至多 $\widetilde{O}(\frac{ed^2+k}{\epsilon^2})$ 个样本学习。对具有离散叶子的树结构 SPNs 有类似结果。我们基于最近提出的分布压缩方案概念获得上界。更具体地，我们证明如果一个（基）分布类 $\mathcal{F}$ 容许一种“高效”压缩，那么具有来自 $\mathcal{F}$ 的叶子的树结构 SPNs 类也容许高效压缩。