SMDT：选择性记忆增强的神经文档翻译
计算与语言
2022-01-06 v1 人工智能
摘要
现有的文档级神经机器翻译（NMT）模型已充分探索了不同的上下文设置以为目标生成提供指导。然而，很少有关注引入更丰富的上下文以获取充足的上下文信息。在本文中，我们提出一种选择性记忆增强的神经文档翻译模型来处理包含巨大上下文假设空间的文档。具体而言，我们从训练语料中检索相似双语句对以增强全局上下文，然后将双流注意力模型扩展为带选择性机制以捕获局部上下文与多样化全局上下文。这一统一方法使我们的模型能在三个公开文档级机器翻译数据集上优雅地训练，并显著优于以往的文档级NMT模型。
引用
@article{arxiv.2201.01631,
title = {SMDT: Selective Memory-Augmented Neural Document Translation},
author = {Xu Zhang and Jian Yang and Haoyang Huang and Shuming Ma and Dongdong Zhang and Jinlong Li and Furu Wei},
journal= {arXiv preprint arXiv:2201.01631},
year = {2022}
}