对抗式神经机器翻译
计算与语言
2018-10-02 v4 机器学习
机器学习
摘要
本文研究神经机器翻译(NMT)的一种新学习范式。与以往工作最大化人工翻译的似然不同,我们最小化人工翻译与 NMT 模型所给翻译之间的区分度。为实现该目标,受生成对抗网络(GAN)近期成功的启发,我们采用一种对抗训练架构并将其命名为 Adversarial-NMT。在 Adversarial-NMT 中,NMT 模型的训练由一个对抗者辅助,该对抗者是一个精心设计的卷积神经网络(CNN)。对抗者的目标是区分 NMT 模型生成的翻译结果与人工翻译。NMT 模型的目标是产生高质量翻译以欺骗对抗者。利用策略梯度方法协同训练 NMT 模型与对抗者。在英法和德英翻译任务上的实验结果表明,Adversarial-NMT 能取得比若干强基线显著更好的翻译质量。
引用
@article{arxiv.1704.06933,
title = {Adversarial Neural Machine Translation},
author = {Lijun Wu and Yingce Xia and Li Zhao and Fei Tian and Tao Qin and Jianhuang Lai and Tie-Yan Liu},
journal= {arXiv preprint arXiv:1704.06933},
year = {2018}
}
备注
ACML 2018