通过原始 Transformer 在机器翻译任务中有效引入通用领域数据
计算与语言
2022-09-29 v1
摘要
机器翻译史上的重要突破之一是 Transformer 模型的发展。它不仅对各种翻译任务具有革命性，也对大多数其他 NLP 任务如此。本文中，我们旨在构建一个基于 Transformer 的系统，能够将德语源句翻译为对应的英语目标句。我们在 WMT'13 数据集的新闻评论德英平行句上实验。此外，我们研究了在训练中引入来自 IWSLT'16 数据集的额外通用领域数据以提升 Transformer 模型性能的效果。我们发现，在训练中包含 IWSLT'16 数据集有助于在 WMT'13 数据集测试集上获得 2 个 BLEU 分数点的提升。引入定性分析以考察通用领域数据的使用如何提升所生成翻译句的质量。
引用
@article{arxiv.2209.14073,
title = {Effective General-Domain Data Inclusion for the Machine Translation Task by Vanilla Transformers},
author = {Hassan Soliman},
journal= {arXiv preprint arXiv:2209.14073},
year = {2022}
}
备注
8 pages, 4 figures