利用目标端文档级语言模型的上下文感知神经机器翻译解码器
计算与语言
2021-11-16 v2
摘要
尽管已提出许多上下文感知神经机器翻译模型以在翻译中融入上下文，但其中大多数模型是在句级对齐的平行文档上端到端训练的。由于仅少数领域（及语言对）拥有此类文档级平行数据，我们在大多数领域无法执行准确的上下文感知翻译。因此我们提出一种简单方法，通过将文档级语言模型整合进解码器，将句级翻译模型转变为上下文感知模型。我们的上下文感知解码器仅构建于句级平行语料库与单语语料库之上；因此无需文档级平行数据。从理论上讲，本工作的核心部分是利用上下文与当前句子间逐点互信息对上下文信息的新颖表示。我们通过在英语到法语、英语到俄语、日语到英语三个语言对上的 \textsc{bleu} 评估与上下文感知翻译的对比测试，展示了方法的有效性。
引用
@article{arxiv.2010.12827,
title = {Context-aware Decoder for Neural Machine Translation using a Target-side Document-Level Language Model},
author = {Amane Sugiyama and Naoki Yoshinaga},
journal= {arXiv preprint arXiv:2010.12827},
year = {2021}
}