MIWAE：不完整数据的深度生成建模与插补
机器学习
2019-02-05 v2 机器学习
统计方法学
摘要
我们考虑利用深度潜变量模型（DLVMs）处理缺失数据的问题。首先，我们提出一种在训练集含随机缺失数据时训练 DLVMs 的简单技术。我们的方法称为 MIWAE，基于重要性加权自编码器（IWAE），并最大化观测数据对数似然的一个可能紧的下界。相较于原始 IWAE，我们的算法不因缺失数据引入任何额外计算开销。我们还开发了利用在不完整数据集上训练的 DLVM 进行单重与多重插补的蒙特卡洛技术。我们通过在含 50% 缺失像素的 MNIST 静态二值化上训练卷积 DLVM 来阐释我们的方法。借助多重插补，在这些不完整数字上训练的卷积网络测试性能与在完整数据上训练的相近。在多个连续与二值数据集上，我们也显示 MIWAE 提供准确的单重插补，且与最先进方法极具竞争力。
引用
@article{arxiv.1812.02633,
title = {MIWAE: Deep Generative Modelling and Imputation of Incomplete Data},
author = {Pierre-Alexandre Mattei and Jes Frellsen},
journal= {arXiv preprint arXiv:1812.02633},
year = {2019}
}
备注
A short version of this paper was presented at the 3rd NeurIPS workshop on Bayesian Deep Learning