双重注意力Transformer机器翻译
计算与语言
2018-08-01 v1
摘要
本文提出一种双重注意力Transformer机器翻译模型（DATNMT），其中双重注意力Transformer解码器通常结合通过预训练卷积神经网络获得的空间视觉特征，克服图像描述与翻译之间的任何鸿沟。在该框架中，Transformer解码器在生成目标语言单词时，通过双重注意力Transformer的增强多头注意力层中的两个独立注意力机制，学会自由地处理源语言单词和图像局部。我们发现所提模型不仅能有效利用稀缺的多模态机器翻译数据，也能利用大规模通用领域纯文本机器翻译语料库或图像-文本图像描述语料库。实验结果表明，所提双重注意力Transformer解码器优于单解码器Transformer模型，并在英德多模态机器翻译任务上取得最先进（SOTA）结果。
引用
@article{arxiv.1807.11605,
title = {Doubly Attentive Transformer Machine Translation},
author = {Hasan Sait Arslan and Mark Fishel and Gholamreza Anbarjafari},
journal= {arXiv preprint arXiv:1807.11605},
year = {2018}
}