卷积自回归模型的快速生成
机器学习
2017-04-21 v1 计算机视觉与模式识别
机器学习
摘要
卷积自回归模型最近在许多生成任务上展示了最先进的性能。尽管快速、并行的训练方法对其成功至关重要，但生成通常以朴素的方式实现，其中不必要的重复计算被重复执行。这导致生成缓慢，使得此类模型在生产环境中不可行。在这项工作中，我们描述了一种加速卷积自回归模型生成的方法。关键思想是缓存隐藏状态以避免冗余计算。我们将我们的快速生成方法应用于 Wavenet 和 PixelCNN++ 模型，分别实现了高达 和 的加速。
引用
@article{arxiv.1704.06001,
title = {Fast Generation for Convolutional Autoregressive Models},
author = {Prajit Ramachandran and Tom Le Paine and Pooya Khorrami and Mohammad Babaeizadeh and Shiyu Chang and Yang Zhang and Mark A. Hasegawa-Johnson and Roy H. Campbell and Thomas S. Huang},
journal= {arXiv preprint arXiv:1704.06001},
year = {2017}
}
备注
Accepted at ICLR 2017 Workshop