基于音素的多样性及其在神经机器翻译中的应用
计算与语言
2019-11-12 v1 机器学习
声音
音频与语音处理
摘要
我们为神经机器翻译（NMT）引入了一种强有力的方案：在训练与测试时，除输入文本外，我们还提供其音素编码及该编码的变体。由此，我们在最先进的大规模系统上获得了高达 4 个 BLEU 点的非常显著的改进。音素编码是我们的第一部分贡献，第二部分是一个旨在理解此改进原因的理论。我们的假设认为，音素编码之所以有助于 NMT，是因为它编码了一种凸显语义多样句子间差异的机制。我们对该假设进行了实证几何验证，并获得了压倒性的支持证据。随后，作为我们的第三部分贡献并基于该理论，我们开发了在学习过程中利用所假设（且已验证）的音素效应的人工机制。我们在所有语言对与数据集上均取得显著且一致的改进：中等任务 IWSLT'17 中的法英、德英和中英，以及大任务 WMT'18 Bio 中的法英，较最先进水平提升高达 4 个 BLEU 点。此外，在未知域外测试集上评估时，我们的方法比基线更鲁棒，BLEU 点提升高达 5 个。
引用
@article{arxiv.1911.04292,
title = {Diversity by Phonetics and its Application in Neural Machine Translation},
author = {Abdul Rafae Khan and Jia Xu},
journal= {arXiv preprint arXiv:1911.04292},
year = {2019}
}
备注
In openreview.net (28 May 2019)