非自回归文档级机器翻译
计算与语言
2023-12-12 v3
摘要
在句子级机器翻译(MT)中，非自回归翻译(NAT)模型相比自回归翻译(AT)模型取得了可比的性能与更优的速度。然而，它们在文档级 MT 中的能力尚未被探索，阻碍了其在实际场景中的使用。在本文中，我们对典型 NAT 模型在文档级 MT 背景下进行了全面考察，并进一步提出了一种简单而有效的源端与目标端句子对齐设计。实验表明，NAT 模型在文档上实现了高度加速，且句子对齐显著提升了其性能。然而，当前 NAT 模型与其 AT 对应模型相比仍有显著的性能差距。进一步调研揭示，在文档级 MT 背景下，NAT 模型更易受多模态与错位问题的影响，且当前 NAT 模型难以利用文档上下文和处理语篇现象。我们深入探究了这些挑战，并在 \url{https://github.com/baoguangsheng/nat-on-doc} 提供了代码。
引用
@article{arxiv.2305.12878,
title = {Non-Autoregressive Document-Level Machine Translation},
author = {Guangsheng Bao and Zhiyang Teng and Hao Zhou and Jianhao Yan and Yue Zhang},
journal= {arXiv preprint arXiv:2305.12878},
year = {2023}
}
备注
EMNLP2023 Findings camera-ready version. Review soundness 443 and excitement 443