中文

CatGAN:面向类别文本生成的类别感知生成对抗网络与层次进化学习

计算与语言 2019-11-21 v2 机器学习 神经与进化计算

摘要

生成多类别文本是一项具有挑战性的任务,并受到越来越多的关注。由于生成对抗网络(GAN)在通用文本生成上已展现出有竞争力的结果,已有一些先前工作将其扩展用于类别文本生成。然而,复杂的模型结构与学习策略限制了其性能并加剧了训练不稳定性。本文提出一种类别感知 GAN(CatGAN),其由一个用于类别文本生成的高效类别感知模型以及一个用于训练该模型的层次进化学习算法组成。该类别感知模型直接度量每一类别上真实样本与生成样本之间的差距,进而缩小此差距将引导模型生成高质量的类别样本。Gumbel-Softmax 松弛进一步使我们的模型免于在离散数据上更新 CatGAN 的复杂学习策略。此外,仅关注样本质量通常会导致模式崩溃问题,因此引入一种层次进化学习算法以稳定训练过程并在训练 CatGAN 时获得质量与多样性之间的权衡。实验结果表明,CatGAN 优于大多数现有的最先进(state-of-the-art)方法。

关键词

引用

@article{arxiv.1911.06641,
  title  = {CatGAN: Category-aware Generative Adversarial Networks with Hierarchical Evolutionary Learning for Category Text Generation},
  author = {Zhiyue Liu and Jiahai Wang and Zhiwei Liang},
  journal= {arXiv preprint arXiv:1911.06641},
  year   = {2019}
}

备注

15 pages, 4 figures. Accepted by AAAI 2020