学习区分噪声以在神经机器翻译中融入外部信息
计算与语言
2018-11-20 v3
摘要
先前的研究表明，融入外部信息可以提升神经机器翻译（NMT）系统的翻译质量。然而，外部信息中不可避免地存在噪声，严重削弱了现有方法从融入中所能获得的收益。为解决该问题，本研究在融入过程中特别关注对噪声的判别。我们认为此类外部信息中存在两类噪声，即全局噪声与局部噪声，它们分别影响整个句子及某些特定词的翻译。相应地，我们提出一种通用框架，学习联合判别全局与局部噪声，从而更好地利用外部信息。我们的模型在源自原始平行语料的数据集上训练，无需任何外部标注数据或注释。在多种真实场景、语言对及神经架构上的实验结果表明，即使在极强噪声条件下，通过更好融入外部信息，区分噪声也有助于翻译质量显著提升。
引用
@article{arxiv.1810.10317,
title = {Learning to Discriminate Noises for Incorporating External Information in Neural Machine Translation},
author = {Zaixiang Zheng and Shujian Huang and Zewei Sun and Rongxiang Weng and Xin-Yu Dai and Jiajun Chen},
journal= {arXiv preprint arXiv:1810.10317},
year = {2018}
}
备注
8 pages