神经自回归流
机器学习
2018-04-04 v1 机器学习
摘要
归一化流与自回归模型已成功结合,通过掩码自回归流 (MAF) 在密度估计中取得 SOTA 结果,并通过逆自回归流 (IAF) 将基于 WaveNet 的 SOTA 语音合成加速至比实时快 20 倍。我们统一并推广了这些方法,将 MAF/IAF 的(条件)仿射单变量变换替换为以单调神经网络表示的更一般的一类可逆单变量变换。我们证明所提出的神经自回归流 (NAF) 是连续概率分布的通用逼近器,且其更强的表达能力使其能更好地捕捉多模态目标分布。在实验上,NAF 在一组密度估计任务中取得了 SOTA 性能,并在训练于二值化 MNIST 的变分自编码器中优于 IAF。
引用
@article{arxiv.1804.00779,
title = {Neural Autoregressive Flows},
author = {Chin-Wei Huang and David Krueger and Alexandre Lacoste and Aaron Courville},
journal= {arXiv preprint arXiv:1804.00779},
year = {2018}
}
备注
16 pages, 10 figures, 3 tables