中文

Sockeye:一个神经机器翻译工具包

计算与语言 2018-06-04 v2 机器学习 机器学习

摘要

我们介绍了 Sockeye(1.12 版),一个用于神经机器翻译(NMT)的开源序列到序列工具包。Sockeye 是一个可用于生产环境训练和部署模型的框架,同时也是研究人员的实验平台。该工具包使用 Python 编写并构建于 MXNet 之上,为三种最主流的编码器-解码器架构提供可扩展的训练与推理:注意力循环神经网络、自注意力 Transformer 和全卷积网络。Sockeye 还支持广泛的优化器、归一化与正则化技术,以及当前 NMT 文献中的推理改进方法。用户可以轻松运行标准训练方案、探索不同模型设置并融入新想法。在本文中,我们重点介绍了 Sockeye 的特性,并在 2017 年机器翻译会议(WMT)的两个语言对(英德和拉脱维亚-英)上与其他 NMT 工具包进行了基准对比。我们报告了所有三种架构下具有竞争力的 BLEU 分数,其中 Sockeye 的 Transformer 实现取得了总体最佳分数。为便于进一步比较,我们发布了实验中使用的所有系统输出和训练脚本。Sockeye 工具包是根据 Apache 2.0 许可证发布的自由软件。

关键词

引用

@article{arxiv.1712.05690,
  title  = {Sockeye: A Toolkit for Neural Machine Translation},
  author = {Felix Hieber and Tobias Domhan and Michael Denkowski and David Vilar and Artem Sokolov and Ann Clifton and Matt Post},
  journal= {arXiv preprint arXiv:1712.05690},
  year   = {2018}
}