中文

Marian:基于 C++ 的高性价比高质量神经机器翻译系统

计算与语言 2018-05-31 v1

摘要

本文描述了 “Marian” 团队向 WNMT 2018 共享任务提交的结果。我们研究了教师—学生训练、低精度矩阵乘积、自动调优以及其他方法的组合,以在 GPU 和 CPU 上优化 Transformer 模型。通过将这些方法进一步与近期提出的更快 Transformer 变体——新型平均注意力网络相集成,我们在 GPU 和 CPU 上创建了许多高质量、高性能的模型,主导了该共享任务的帕累托前沿。

关键词

引用

@article{arxiv.1805.12096,
  title  = {Marian: Cost-effective High-Quality Neural Machine Translation in C++},
  author = {Marcin Junczys-Dowmunt and Kenneth Heafield and Hieu Hoang and Roman Grundkiewicz and Anthony Aue},
  journal= {arXiv preprint arXiv:1805.12096},
  year   = {2018}
}

备注

System submission to the Workshop for Neural Machine Translation 2018, efficiency task