FFJORD：用于可扩展可逆生成模型的自由形式连续动力学
机器学习
2018-10-23 v3 计算机视觉与模式识别
机器学习
摘要
一类有前景的生成模型通过可逆神经网络将点从简单分布映射到复杂分布。这些模型的基于似然的训练需要限制其架构以允许雅可比行列式的高效计算。或者，如果变换由常微分方程指定，则可以使用雅可比迹。在本文中，我们使用 Hutchinson 迹估计器给出对数密度的可扩展无偏估计。结果是一个连续时间可逆生成模型，具有无偏密度估计和单次采样，同时允许不受限制的神经网络架构。我们在高维密度估计、图像生成和变分推断上展示了我们的方法，在具有高效采样的精确似然方法中达到了最先进水平。
引用
@article{arxiv.1810.01367,
title = {FFJORD: Free-form Continuous Dynamics for Scalable Reversible Generative Models},
author = {Will Grathwohl and Ricky T. Q. Chen and Jesse Bettencourt and Ilya Sutskever and David Duvenaud},
journal= {arXiv preprint arXiv:1810.01367},
year = {2018}
}
备注
8 Pages, 6 figures