Flow++:通过变分去量化与架构设计改进基于流的生成模型
机器学习
2019-05-17 v2 神经与进化计算
机器学习
摘要
基于流的生成模型是具有高效采样与推断能力的精确似然模型。尽管计算高效,基于流的模型其密度建模性能通常远逊于最先进的自回归模型。本文中,我们研究并改进了先前工作中基于流模型所采用的三个限制性设计选择:使用均匀噪声进行去量化、使用缺乏表现力的仿射流,以及在耦合层中使用纯卷积条件网络。基于我们的发现,我们提出 Flow++,一种全新的基于流的模型,现已成为标准图像基准上无条件密度估计的最先进非自回归模型。我们的工作已开始缩小自回归模型与基于流模型之间迄今存在的显著性能差距。我们的实现见 https://github.com/aravindsrinivas/flowpp
引用
@article{arxiv.1902.00275,
title = {Flow++: Improving Flow-Based Generative Models with Variational Dequantization and Architecture Design},
author = {Jonathan Ho and Xi Chen and Aravind Srinivas and Yan Duan and Pieter Abbeel},
journal= {arXiv preprint arXiv:1902.00275},
year = {2019}
}
备注
Accepted at ICML 2019