CUNI用于WMT 22高效翻译共享任务的非自回归系统
计算与语言
2022-12-02 v1
摘要
我们提交了一个用于WMT 22高效翻译共享任务的非自回归系统。我们的系统被Helcl等人(2022)使用,试图在非自回归与自回归模型之间提供公平比较。本次提交旨在建立可靠的基线以及合理的评估方法,特别是在测量解码速度方面。模型本身是一个12层Transformer模型,通过连接主义时序分类在由强自回归教师模型蒸馏的知识蒸馏数据集上训练。
引用
@article{arxiv.2212.00477,
title = {CUNI Non-Autoregressive System for the WMT 22 Efficient Translation Shared Task},
author = {Jindřich Helcl},
journal= {arXiv preprint arXiv:2212.00477},
year = {2022}
}