重新审视神经机器翻译中的否定词翻译
计算与语言
2021-07-27 v1
摘要
本文中,我们在英德(EN--DE)与英中(EN--ZH)方向上自动且人工地评估了否定的翻译。我们表明,随着网络更深且更先进,神经机器翻译(NMT)模型翻译否定的能力已有所提升,尽管性能在不同语言对与翻译方向间存在差异。人工评估在 EN-DE、DE-EN、EN-ZH 与 ZH-EN 的准确率分别为 95.7%、94.8%、93.4% 与 91.7%。此外,我们表明欠翻译是 NMT 中最显著的错误类型,这与先前统计机器翻译中观察到的更多样化的错误分布形成对比。为更好理解否定欠翻译的根源,我们研究了模型的信息流与训练数据。尽管我们的信息流分析未揭示任何可用于检测或修复否定欠翻译的缺陷,我们发现训练过程中否定常被改写,这可能使模型更难学到源端与目标端否定间可靠的对应。我们最后对否定进行了内在分析与外在探测任务,表明 NMT 模型能很好区分否定与非否定词元,并在隐状态中编码了大量关于否定的信息,但仍有改进空间。
引用
@article{arxiv.2107.12203,
title = {Revisiting Negation in Neural Machine Translation},
author = {Gongbo Tang and Philipp Rönchen and Rico Sennrich and Joakim Nivre},
journal= {arXiv preprint arXiv:2107.12203},
year = {2021}
}
备注
To appear at TACL and to be presented at ACL 2021. Authors' final version