用于神经自动后期编辑系统解释性的共享注意力机制
计算与语言
2018-07-03 v1
摘要
自动后期编辑(APE)系统旨在纠正机器翻译器所犯的系统错误。本文中，我们提出一种神经APE系统，其使用两个独立编码器对源(src)句和机器翻译(mt)句进行编码，但利用共享注意力机制来更好理解两输入如何贡献于后期编辑(pe)句子的生成。我们的经验观察表明，当mt不正确时，注意力将权重转向src句中的词元以正确编辑错误翻译。该模型已在WMT16和WMT17 APE IT领域英德共享任务的官方数据上训练和评估。此外，我们使用了共享任务提供的额外50万人工数据。我们的系统能够复现用相同数据训练系统的准确率，同时提供更好的可解释性。
引用
@article{arxiv.1807.00248,
title = {A Shared Attention Mechanism for Interpretation of Neural Automatic Post-Editing Systems},
author = {Inigo Jauregi Unanue and Ehsan Zare Borzeshi and Massimo Piccardi},
journal= {arXiv preprint arXiv:1807.00248},
year = {2018}
}
备注
2nd Workshop on Neural Machine Translation and Generation (WNMT 2018), held in conjunction with ACL 2018