Exemplar VAE：连接生成模型、最近邻检索与数据增强
机器学习
2020-11-25 v3 计算机视觉与模式识别
机器学习
摘要
我们介绍了 Exemplar VAE，一类弥合参数化与基于非参数范例的生成模型之间差距的生成模型。Exemplar VAE 是一种 VAE 的变体，其在潜空间具有基于 Parzen 窗估计器的非参数先验。要从中采样，首先从一个训练集中抽取一个随机范例，然后随机地将该范例变换为一个潜码和一个新观测。我们提出检索增强训练（RAT）作为一种通过使用潜空间中的近似最近邻搜索来定义对数边际似然下界从而加速 Exemplar VAE 训练的方法。为了增强泛化能力，模型参数使用范例留一法和子采样进行学习。实验证明了 Exemplar VAE 在密度估计和表示学习上的有效性。重要的是，在置换不变 MNIST 和 Fashion MNIST 上使用 Exemplar VAE 进行生成式数据增强将分类错误从 1.17% 降低到 0.69%，从 8.56% 降低到 8.16%。
引用
@article{arxiv.2004.04795,
title = {Exemplar VAE: Linking Generative Models, Nearest Neighbor Retrieval, and Data Augmentation},
author = {Sajad Norouzi and David J. Fleet and Mohammad Norouzi},
journal= {arXiv preprint arXiv:2004.04795},
year = {2020}
}
备注
NeurIPS 2020