CoT：面向离散数据生成建模的协作训练
机器学习
2019-05-14 v3 人工智能
计算与语言
机器学习
摘要
在本文中，我们研究序列离散数据的生成模型。为应对最大似然估计（MLE）固有的曝光偏差问题，引入生成对抗网络（GANs）以惩罚不真实的生成样本。为利用判别器提供的监督信号，多数先前模型借助REINFORCE来解决序列离散数据的不可微问题。然而，由于对抗训练动态过程中训练信号的不稳定特性，REINFORCE在此情形下的有效性难以保证。为解决该问题，我们提出一种称为协作训练（CoT）的新方法来改进序列生成模型的训练。CoT将GANs的极小极大博弈转化为联合最大化框架，并设法显式估计与优化Jensen-Shannon散度。此外，CoT无需通过MLE进行预训练即可工作，而这对先前方法的成功至关重要。在实验中，与现有最先进方法相比，CoT在样本质量、多样性以及训练稳定性上表现出更优或至少具竞争力的性能。
引用
@article{arxiv.1804.03782,
title = {CoT: Cooperative Training for Generative Modeling of Discrete Data},
author = {Sidi Lu and Lantao Yu and Siyuan Feng and Yaoming Zhu and Weinan Zhang and Yong Yu},
journal= {arXiv preprint arXiv:1804.03782},
year = {2019}
}
备注
Appearing as a Conference Paper on ICML 2019