并行多尺度自回归密度估计
计算机视觉与模式识别
2017-03-13 v1 神经与进化计算
摘要
PixelCNN 在自然图像的密度估计中取得了最先进的结果。虽然训练速度快，但推理代价高昂，每个像素需要一次网络评估；对于 N 个像素，复杂度为 O(N)。通过缓存激活值可以加速，但仍需顺序生成每个像素。在这项工作中，我们提出了一种并行化的 PixelCNN，通过将某些像素组建模为条件独立的，从而实现更高效的推理。我们的新 PixelCNN 模型实现了有竞争力的密度估计和数量级的速度提升——采样复杂度从 O(N) 降至 O(log N)——使得 512x512 图像的实用生成成为可能。我们在类别条件图像生成、文本到图像合成以及动作条件视频生成上评估了该模型，结果表明，我们的模型在允许高效采样的非像素自回归密度模型中取得了最佳结果。
引用
@article{arxiv.1703.03664,
title = {Parallel Multiscale Autoregressive Density Estimation},
author = {Scott Reed and Aäron van den Oord and Nal Kalchbrenner and Sergio Gómez Colmenarejo and Ziyu Wang and Dan Belov and Nando de Freitas},
journal= {arXiv preprint arXiv:1703.03664},
year = {2017}
}