促使神经机器翻译满足术语约束
计算与语言
2021-06-08 v1 人工智能
摘要
我们提出一种促使神经机器翻译满足词汇约束的新方法。我们的方法作用于训练步骤，从而避免在推理步骤引入任何额外计算开销。所提方法结合三个主要要素。第一个要素是扩充训练数据以指明约束，直观上这促使模型在遇到约束词时学习拷贝行为。与先前工作相比，我们使用不含源因子的简化扩充策略。第二个要素是约束词掩码，它使模型更易于学习拷贝行为且泛化更好。第三个要素是对标准交叉熵损失的修正，以偏置模型对约束词赋予高概率。实证结果表明，我们的方法在BLEU分数与生成约束词百分比方面均优于相关基线。
引用
@article{arxiv.2106.03730,
title = {Encouraging Neural Machine Translation to Satisfy Terminology Constraints},
author = {Melissa Ailem and Jinghsu Liu and Raheel Qader},
journal= {arXiv preprint arXiv:2106.03730},
year = {2021}
}