具有外部短语记忆的神经机器翻译
计算与语言
2016-06-07 v1
摘要
在本文中,我们提出 phraseNet,一种带有短语记忆的神经机器翻译模型,该记忆以符号形式存储从语料库中挖掘或由人类专家指定的短语对。对于任意给定的源句子,phraseNet 扫描短语记忆以确定候选短语对,并相应地将标记信息整合到源句子的表示中。解码器利用词生成组件与短语生成组件的混合,采用专门设计的策略一次性生成多个词组成的序列。phraseNet 不仅朝着将外部知识融入神经机器翻译迈出了一步,而且努力扩展循环神经网络的逐词生成机制。我们在汉英翻译上的实证研究表明,在记忆中使用精心选择的短语表时,phraseNet 比通用神经机器翻译器获得了 3.45 BLEU 的提升。
引用
@article{arxiv.1606.01792,
title = {Neural Machine Translation with External Phrase Memory},
author = {Yaohua Tang and Fandong Meng and Zhengdong Lu and Hang Li and Philip L. H. Yu},
journal= {arXiv preprint arXiv:1606.01792},
year = {2016}
}
备注
8 figures, 9 pages