超越 BLEU:用语义相似度训练神经机器翻译
计算与语言
2019-09-17 v1
摘要
尽管大多数神经机器翻译(NMT)系统仍使用最大似然估计进行训练,但近期工作表明,直接优化系统以提升 BLEU 等评测指标可大幅改善最终翻译准确性。然而,使用 BLEU 训练存在一些局限:它不给予部分得分,输出值范围有限,并且若语义正确的假设在词面上与参考译文不同,会对其进行惩罚。本文中,我们引入了一种用于优化 NMT 系统的替代奖励函数,其基于近期语义相似度方面的研究。我们在四种不同语言翻译为英语的任务上进行评测,发现使用我们所提指标进行训练可得到由 BLEU、语义相似度和人工评测认定的更好译文,且优化过程收敛更快。分析表明,这是因为所提指标更利于优化,相较于 BLEU 能给予部分得分并提供更多样的分数。
引用
@article{arxiv.1909.06694,
title = {Beyond BLEU: Training Neural Machine Translation with Semantic Similarity},
author = {John Wieting and Taylor Berg-Kirkpatrick and Kevin Gimpel and Graham Neubig},
journal= {arXiv preprint arXiv:1909.06694},
year = {2019}
}
备注
Published as a long paper at ACL 2019