Sockeye:一个神经机器翻译工具包
计算与语言
2018-06-04 v2 机器学习
机器学习
摘要
我们介绍了 Sockeye(1.12 版),一个用于神经机器翻译(NMT)的开源序列到序列工具包。Sockeye 是一个可用于生产环境训练和部署模型的框架,同时也是研究人员的实验平台。该工具包使用 Python 编写并构建于 MXNet 之上,为三种最主流的编码器-解码器架构提供可扩展的训练与推理:注意力循环神经网络、自注意力 Transformer 和全卷积网络。Sockeye 还支持广泛的优化器、归一化与正则化技术,以及当前 NMT 文献中的推理改进方法。用户可以轻松运行标准训练方案、探索不同模型设置并融入新想法。在本文中,我们重点介绍了 Sockeye 的特性,并在 2017 年机器翻译会议(WMT)的两个语言对(英德和拉脱维亚-英)上与其他 NMT 工具包进行了基准对比。我们报告了所有三种架构下具有竞争力的 BLEU 分数,其中 Sockeye 的 Transformer 实现取得了总体最佳分数。为便于进一步比较,我们发布了实验中使用的所有系统输出和训练脚本。Sockeye 工具包是根据 Apache 2.0 许可证发布的自由软件。
引用
@article{arxiv.1712.05690,
title = {Sockeye: A Toolkit for Neural Machine Translation},
author = {Felix Hieber and Tobias Domhan and Michael Denkowski and David Vilar and Artem Sokolov and Ann Clifton and Matt Post},
journal= {arXiv preprint arXiv:1712.05690},
year = {2018}
}