一种基于迁移学习的简单有效自动后期编辑方法
计算与语言
2019-06-17 v1 机器学习
摘要
自动后期编辑（APE）旨在通过人工后期编辑自动精炼黑盒机器翻译（MT）系统的输出。APE 系统通常通过将人工后期编辑数据与通过回译生成的大规模人工数据相结合来训练，这一过程耗时且常不比从头训练 MT 系统更容易。在本文中，我们提出一种替代方案：在 APE 系统的编码器与解码器上微调预训练的 BERT 模型，并探索若干参数共享策略。仅在单块 GPU 上以 23K 句数据集训练 3 小时，我们便取得了与在 5M 人工句上训练的系统相竞争的结果。当我们加入该人工数据时，我们的方法取得了最先进（SOTA）结果。
引用
@article{arxiv.1906.06253,
title = {A Simple and Effective Approach to Automatic Post-Editing with Transfer Learning},
author = {Gonçalo M. Correia and André F. T. Martins},
journal= {arXiv preprint arXiv:1906.06253},
year = {2019}
}
备注
In proceedings of ACL 2019