基于双重对抗输入的鲁棒神经机器翻译
计算与语言
2019-06-07 v1
摘要
神经机器翻译（NMT）常易受输入中噪声扰动的影响。我们提出一种提升 NMT 模型鲁棒性的方法，包含两部分：（1）以对抗性源示例攻击翻译模型；（2）以对抗性目标输入防御翻译模型，以提升其对抗对抗性源输入的鲁棒性。对于对抗性输入的生成，我们提出一种基于梯度的方法，依据干净输入上的翻译损失来构造对抗示例。在中英和英德翻译任务上的实验结果表明，我们的方法在标准干净基准上相对 Transformer 取得显著改进（ 和 个 BLEU 点），并在噪声数据上展现出更高的鲁棒性。
引用
@article{arxiv.1906.02443,
title = {Robust Neural Machine Translation with Doubly Adversarial Inputs},
author = {Yong Cheng and Lu Jiang and Wolfgang Macherey},
journal= {arXiv preprint arXiv:1906.02443},
year = {2019}
}
备注
Accepted by ACL 2019