文档级上下文在神经机器翻译中何时以及为何有用?
计算与语言
2019-10-02 v1
摘要
文档级上下文因能弥补孤立句子神经机器翻译(NMT)的不足而备受关注。然而,近期文档级 NMT 的进展聚焦于上下文的复杂集成,仅用少数选定样例或针对性测试集来解释其改进。我们在通用测试集上广泛量化了文档级模型产生改进的原因,阐明了文档级上下文在 NMT 中效用的局限。我们表明大多数改进并不能解释为利用了上下文。我们还表明,最小的编码已足以进行上下文建模,且极长的上下文对 NMT 并无帮助。
引用
@article{arxiv.1910.00294,
title = {When and Why is Document-level Context Useful in Neural Machine Translation?},
author = {Yunsu Kim and Duc Thanh Tran and Hermann Ney},
journal= {arXiv preprint arXiv:1910.00294},
year = {2019}
}
备注
DiscoMT 2019 camera-ready