爱丁堡大学面向 WMT17 的神经机器翻译系统
计算与语言
2017-08-03 v1
摘要
本文描述了爱丁堡大学向 WMT17 共享新闻翻译和生物医学翻译任务提交的系统。我们参与了新闻领域的 12 个翻译方向，涉及英语与捷克语、德语、拉脱维亚语、俄语、土耳其语和汉语之间的互译。对于生物医学任务，我们提交了英语到捷克语、德语、波兰语和罗马尼亚语的系统。我们的系统是使用 Nematus（一种注意力编码器-解码器）训练的神经机器翻译系统。我们沿用去年的设置，利用平行和回译的单语训练数据构建基于 BPE 的模型。今年的新颖之处包括使用深层架构、层归一化，以及由于权重绑定和 BPE 分段的改进而得到的更紧凑模型。我们进行了广泛的消融实验，报告了层归一化、深层架构和不同集成技术的有效性。
引用
@article{arxiv.1708.00726,
title = {The University of Edinburgh's Neural MT Systems for WMT17},
author = {Rico Sennrich and Alexandra Birch and Anna Currey and Ulrich Germann and Barry Haddow and Kenneth Heafield and Antonio Valerio Miceli Barone and Philip Williams},
journal= {arXiv preprint arXiv:1708.00726},
year = {2017}
}
备注
WMT 2017 shared task track; for Bibtex, see http://homepages.inf.ed.ac.uk/rsennric/bib.html#uedin-nmt:2017