束搜索与否：语言 GAN 的合作问题
计算与语言
2021-06-14 v1 人工智能
摘要
由于词语的离散性质，语言 GAN 需要通过强化学习方法，由判别器网络提供的奖励进行优化。这比连续任务困难得多，后者享有从判别器到生成器的梯度流，通常导致剧烈的学习不稳定性。然而，我们主张这可以通过使判别器与生成器网络合作，在训练期间产生输出序列来解决。这些合作输出本质上构建为获得更高的判别分数，不仅为训练提供更密集的奖励，还形成更紧凑的人工集合用于判别器训练，从而提升其准确性与稳定性。在本文中，我们展示了构建于该合作原则上的 SelfGAN 框架优于 Teacher Forcing，并在两项具有挑战性的任务——摘要生成与问题生成上取得最先进（SOTA）结果。
引用
@article{arxiv.2106.06363,
title = {To Beam Or Not To Beam: That is a Question of Cooperation for Language GANs},
author = {Thomas Scialom and Paul-Alexis Dray and Sylvain Lamprier and Benjamin Piwowarski and Jacopo Staiano},
journal= {arXiv preprint arXiv:2106.06363},
year = {2021}
}