基于删失数据的高斯混合模型学习

我们研究基于删失数据的高斯混合模型学习问题。删失数据的统计学习是一个经典问题,具有众多实际应用,然而即便是高斯混合这样简单的潜变量模型也缺乏有限样本保证。形式上,我们得到来自一元高斯混合 $$\sum_{i=1}^k w_i \mathcal{N}(\mu_i,\sigma^2)$$ 的删失数据,即仅当样本落在集合 $S$ 内时才被观测到。目标是学习权重 $w_i$ 与均值 $\mu_i$。我们提出一种算法,仅需要 $\frac{1}{\varepsilon^{O(k)}}$ 个样本即可在 $\varepsilon$ 误差内估计权重 $w_i$ 与均值 $\mu_i$。