生成式可逆网络的训练

Robin Tibor Schirrmeister; Patryk Chrabąszcz; Frank Hutter; Tonio Ball

生成式可逆网络的训练

机器学习 2018-08-24 v4 神经与进化计算机器学习

作者: Robin Tibor Schirrmeister , Patryk Chrabąszcz , Frank Hutter , Tonio Ball

摘要

具有编码组件（如自编码器）的生成模型目前备受关注。然而，自编码器的训练通常因需分别训练编码器与解码器模型且须强制二者互逆而复杂化。为克服该问题，按设计可逆的神经网络（RevNets）此前已用作生成模型，或直接优化模型下数据的似然，或在生成数据上采用对抗方法。此处，我们转而考察其在对抗自编码器框架下对潜空间使用对抗器的性能。我们在 CelebA 数据集上考察 RevNets 的生成性能，表明生成式 RevNets 可生成与变分自编码器（Variational Autoencoders）质量相近的连贯人脸。这一在对抗自编码器框架内使用 RevNets 的首次尝试，相对于近期在 CelebA 上使用自编码器组件的先进生成模型表现略逊，但随着生成式 RevNets 训练设置的进一步优化，此差距或可缩小。除 CelebA 实验外，我们展示了在 MNIST 数据集上的原理验证实验，表明无对抗器训练的 RevNets 可在不预先指定潜采样分布维数的情况下发现有意义的潜维度。综上，本研究表明 RevNets 可用于不同生成训练设置。本研究源代码见 https://github.com/robintibor/generative-reversible

关键词

生成模型可逆神经网络对抗自编码器变分自编码器 CelebA MNIST 潜空间

引用

@article{arxiv.1806.01610,
  title  = {Training Generative Reversible Networks},
  author = {Robin Tibor Schirrmeister and Patryk Chrabąszcz and Frank Hutter and Tonio Ball},
  journal= {arXiv preprint arXiv:1806.01610},
  year   = {2018}
}

备注

Source code for this study is at https://github.com/robintibor/generative-reversible

生成式可逆网络的训练

摘要

关键词

引用

备注

相关论文