抽取与注意力：改进神经机器翻译中的实体翻译
计算与语言
2023-06-06 v1 人工智能
摘要
尽管神经机器翻译（NMT）近年来取得了巨大进展，但由于缺乏实体训练样本，其仍受困于实体（如人名/组织名、地名）翻译不准确的问题。当人类在翻译中遇到未知实体时，通常会先在词典中查阅，再将实体译文与其他部分的译文组织成通顺的目标句。受此翻译过程启发，我们提出一种抽取与注意力（Extract-and-Attend）方法来增强 NMT 中的实体翻译：首先从词典中抽取源实体的翻译候选，再由 NMT 模型对其施加注意力以生成目标句。具体而言，翻译候选的抽取过程是：先检测源句中的实体，再通过查词典翻译这些实体。随后，抽取出的候选作为解码器输入的前缀加入，在通过自注意力生成目标句时由解码器施加注意力。在英汉和英俄翻译上的实验表明，所提方法能有效提升实体翻译准确率和整体翻译质量，实体错误率最高降低 35%，BLEU 提升 0.85，COMET 提升 13.8。
引用
@article{arxiv.2306.02242,
title = {Extract and Attend: Improving Entity Translation in Neural Machine Translation},
author = {Zixin Zeng and Rui Wang and Yichong Leng and Junliang Guo and Xu Tan and Tao Qin and Tie-yan Liu},
journal= {arXiv preprint arXiv:2306.02242},
year = {2023}
}