一种用于标题生成的重复归一化对抗奖励
计算与语言
2019-02-20 v1
摘要
虽然强化学习能有效改进语言生成模型，但它常常遭受生成不连贯和重复短语的问题。在本文中，我们提出一种新颖的重复归一化对抗奖励来缓解这些问题。我们的重复惩罚奖励能大幅降低重复率，而对抗训练缓解了生成不连贯短语的问题。我们的模型在 ROUGE-1（+3.24）、ROUGE-L（+2.25）上显著优于基线模型，且重复率下降（-4.98%）。
引用
@article{arxiv.1902.07110,
title = {A novel repetition normalized adversarial reward for headline generation},
author = {Peng Xu and Pascale Fung},
journal= {arXiv preprint arXiv:1902.07110},
year = {2019}
}
备注
Accepted by ICASSP 2019