以词袋作为神经机器翻译的目标
计算与语言
2018-05-15 v1
摘要
一个句子可以被翻译成多个正确的句子。然而,现有的大多数神经机器翻译模型在训练阶段仅将其中一个正确译文作为目标,而将其他正确句子作为错误句子进行惩罚。由于一个句子的大部分正确译文具有相似的词袋,因此有可能通过词袋将正确译文与错误译文区分开来。在本文中,我们提出一种在训练阶段同时使用句子和词袋作为目标的方法,以鼓励模型生成训练集中未出现过的潜在正确句子。我们在一个中英翻译数据集上评估了我们的模型,实验表明我们的模型在 BLEU 分数上以 4.55 优于强基线。
引用
@article{arxiv.1805.04871,
title = {Bag-of-Words as Target for Neural Machine Translation},
author = {Shuming Ma and Xu Sun and Yizhong Wang and Junyang Lin},
journal= {arXiv preprint arXiv:1805.04871},
year = {2018}
}
备注
accepted by ACL 2018