基于连接主义时序分类的端到端非自回归神经机器翻译
计算与语言
2018-11-13 v1
摘要
自回归解码是序列到序列模型中唯一阻止其在推理时大规模并行的部分。非自回归模型使解码器能够独立并行地生成所有输出符号。我们提出了一种基于连接主义时序分类(connectionist temporal classification, CTC)的新型非自回归架构,并在神经机器翻译任务上对其进行评估。与其他分步进行的非自回归方法不同,我们的模型可以端到端训练。我们在WMT英罗和英德数据集上进行了实验。我们的模型相比自回归模型实现了显著的速度提升,同时保持与其他非自回归模型相当的翻译质量。
引用
@article{arxiv.1811.04719,
title = {End-to-End Non-Autoregressive Neural Machine Translation with Connectionist Temporal Classification},
author = {Jindřich Libovický and Jindřich Helcl},
journal= {arXiv preprint arXiv:1811.04719},
year = {2018}
}
备注
EMNLP 2018