描述器网络与生成器网络的协同训练
机器学习
2018-10-31 v3 计算机视觉与模式识别
摘要
本文研究用于图像建模与合成的两个生成模型的协同训练。两个模型均由卷积神经网络（ConvNets）参数化。第一个模型是深度基于能量的模型，其能量函数由一个自底向上的ConvNet定义，该网络将观测图像映射到能量。我们称之为描述器网络。第二个模型是生成器网络，它是因子分析的非线性版本。它由一个自顶向下的ConvNet定义，该网络将潜在因子映射到观测图像。两个模型的最大似然学习算法都涉及MCMC采样，如朗之万动力学。我们观察到，这两种学习算法可以无缝地交织成一个协同学习算法，能够同时训练两个模型。具体来说，在协同学习算法的每次迭代中，生成器模型生成初始合成样本，以初始化一个有限步MCMC过程，该过程对基于能量的描述器模型进行采样和训练。之后，生成器模型从MCMC如何改变其合成样本中学习。也就是说，描述器模型通过MCMC教导生成器模型，使得生成器模型积累MCMC转移过程，并通过直接祖先采样重现它们。我们称此方案为MCMC教学。我们证明，该协同算法可以学习出高度逼真的生成模型。
引用
@article{arxiv.1609.09408,
title = {Cooperative Training of Descriptor and Generator Networks},
author = {Jianwen Xie and Yang Lu and Ruiqi Gao and Song-Chun Zhu and Ying Nian Wu},
journal= {arXiv preprint arXiv:1609.09408},
year = {2018}
}
备注
18 pages