VFlow:基于变分数据增强的更具表达力的生成流模型
机器学习
2020-07-23 v2 机器学习
摘要
生成流是一类有前景的可处理密度建模模型,其通过可逆变换定义概率分布。然而,可处理性对生成流施加了架构约束,使其表达能力不如其他类型的生成模型。在本工作中,我们研究了一个先前被忽视的约束:由于可逆性,所有中间表示必须与原始数据具有相同的维度,这限制了网络的宽度。我们通过用一些额外维度扩充数据,并在变分推断框架下联合学习扩充数据的生成流以及扩充维度的分布,来解决这一约束。我们的方法 VFlow 是生成流的推广,因此总是表现更好。结合现有的生成流,VFlow 在 CIFAR-10 数据集上达到了新的最先进的 2.98 bits per dimension,并且比先前达到相似建模质量的模型更紧凑。
引用
@article{arxiv.2002.09741,
title = {VFlow: More Expressive Generative Flows with Variational Data Augmentation},
author = {Jianfei Chen and Cheng Lu and Biqi Chenli and Jun Zhu and Tian Tian},
journal= {arXiv preprint arXiv:2002.09741},
year = {2020}
}