语言生成的对抗排序
计算与语言
2018-04-17 v3 机器学习
摘要
生成对抗网络(GANs)在合成数据方面取得了巨大成功。然而,现有的 GANs 将判别器限制为二分类器,从而限制了它们对需要合成具有丰富结构的输出(如自然语言描述)的任务的学习能力。本文提出一种新颖的生成对抗网络 RankGAN,用于生成高质量语言描述。所提出的 RankGAN 不是训练判别器学习并为单个数据样本分配绝对二值判断,而是能够通过给定参考组来分析和排序一组人工撰写与机器撰写的句子。通过集体审视一组数据样本并通过相对排序分数评估其质量,判别器能够做出更好的评估,进而有助于学习更好的生成器。提出的 RankGAN 通过策略梯度技术进行优化。在多个公开数据集上的实验结果清楚地证明了该方法的有效性。
引用
@article{arxiv.1705.11001,
title = {Adversarial Ranking for Language Generation},
author = {Kevin Lin and Dianqi Li and Xiaodong He and Zhengyou Zhang and Ming-Ting Sun},
journal= {arXiv preprint arXiv:1705.11001},
year = {2018}
}
备注
NIPS2017