高效的双向神经机器翻译
计算与语言
2019-08-27 v1 机器学习
摘要
基于编码器-解码器的神经机器翻译通常从左至右逐词生成目标序列。由于误差传播，生成序列右侧的词元质量通常劣于左侧。本文提出一种高效方法，使用单一编码器与解码器以从左至右和从右至左两种方式生成序列，结合两个生成方向的优势。在三个翻译任务上的实验表明，我们的方法相比传统单向方法取得显著提升。与训练并组合两个不同生成方向模型的集成方法相比，我们的方法节省50%模型参数与约40%训练时间，并提升了推理速度。
引用
@article{arxiv.1908.09329,
title = {Efficient Bidirectional Neural Machine Translation},
author = {Xu Tan and Yingce Xia and Lijun Wu and Tao Qin},
journal= {arXiv preprint arXiv:1908.09329},
year = {2019}
}