变分自解码器：一种从不完整数据进行神经生成建模的方法

从部分数据（含缺失值的数据）中学习生成模型是机器学习研究中一个极具挑战性的领域。我们研究了 Auto-Encoding Variational Bayes（AEVB）算法的一种具体实现，在本文中将其命名为变分自解码器（VAD）。VAD 是一个通用框架，它使用变分贝叶斯和马尔可夫链蒙特卡洛（MCMC）方法从部分数据中学习生成模型。VAD 与变分自编码器（VAE）的主要区别在于编码器组件，因为 VAD 没有编码器。利用所提出的一种基于多元高斯近似后验的高效推断方法，VAD 模型允许通过简单的梯度上升而非从概率解码器中进行 MCMC 采样来执行推断。该技术降低了推断的计算成本，允许在潜空间推断过程中使用更复杂的优化技术（由于 VAD 潜空间具有高度自由度，这一点被证明至关重要），并保持了框架的易于实现。通过在多个数据集和不同缺失比例上的广泛实验，我们表明编码器无法有效地边际化由插补缺失值引起的输入波动。我们在本文中研究了多模态数据集，这是 VAD 模型的一个特定重要影响领域。