多语言神经机器翻译的高效推理
计算与语言
2021-11-09 v2
摘要
多语言 NMT 已成为生产环境中 MT 部署的一种有吸引力的方案。但为了匹配双语质量，其代价是更大且更慢的模型。在本工作中，我们考虑多种方法在不降低质量的前提下使多语言 NMT 推理更快。我们在两个 20 语言多平行设置中实验了若干“轻量解码器”架构：TED Talks 上的小规模和 ParaCrawl 上的大规模。我们的实验表明，将浅解码器与词汇过滤结合可实现两倍以上的更快推理且不损失翻译质量。我们通过 BLEU 和 chrF（基于 380 个语言对）、鲁棒性评估和人工评估验证了我们的发现。
引用
@article{arxiv.2109.06679,
title = {Efficient Inference for Multilingual Neural Machine Translation},
author = {Alexandre Berard and Dain Lee and Stéphane Clinchant and Kweonwoo Jung and Vassilina Nikoulina},
journal= {arXiv preprint arXiv:2109.06679},
year = {2021}
}
备注
EMNLP 2021 long paper