在自然语言生成中利用句子相似性:基于范围投票改进集束搜索
计算与语言
2020-05-27 v2
摘要
我们提出了一种自然语言生成方法,选择最具代表性的输出而非最可能的输出。通过从投票理论视角审视语言生成过程,我们利用范围投票与相似性度量定义了代表性。所提方法可应用于任意概率语言模型的生成,包括n元语法模型与神经网络模型。我们在图像描述生成与机器翻译任务上评估了不同的相似性度量,结果表明我们的方法生成了更长且更多样的句子,为解决短输出优于更长且信息更丰富输出这一常见问题提供了方案。所生成句子获得了更高的BLEU分数,尤其在束宽较大时。我们还在两项任务上进行了人工评估,发现使用本方法生成的输出评分更高。
引用
@article{arxiv.1908.06288,
title = {Leveraging Sentence Similarity in Natural Language Generation: Improving Beam Search using Range Voting},
author = {Sebastian Borgeaud and Guy Emerson},
journal= {arXiv preprint arXiv:1908.06288},
year = {2020}
}