用于神经机器翻译的双解码器增强网络
计算与语言
2020-01-15 v1 机器学习
摘要
神经机器翻译（NMT）近年来已成为一项流行技术，且编码器-解码器框架是所有方法中的主流。显然，编码得到的语义表示质量非常关键，并能显著影响模型性能。然而，现有的单向源到目标架构可能很难产生文本的语言无关表示，因为它们严重依赖于给定语言对的具体关系。为缓解此问题，本文提出一种新颖的用于神经机器翻译任务的双解码器增强网络（BiDAN）。除生成目标语言序列的原始解码器外，我们在训练时增加一个辅助解码器来将源语言序列生成回去。由于每个解码器将输入文本的表示转换为其对应语言，以两个目标端联合训练可使共享编码器有潜力产生语言无关的语义空间。我们在多个 NMT 基准数据集上进行了广泛实验，结果证明了我们所提方法的有效性。
引用
@article{arxiv.2001.04586,
title = {Bi-Decoder Augmented Network for Neural Machine Translation},
author = {Boyuan Pan and Yazheng Yang and Zhou Zhao and Yueting Zhuang and Deng Cai},
journal= {arXiv preprint arXiv:2001.04586},
year = {2020}
}