AdvAug：面向神经机器翻译的鲁棒对抗增强
计算与语言
2020-07-06 v3
摘要
在本文中，我们提出一种用于神经机器翻译（NMT）的新对抗增强方法。其核心思想是在从两个邻域分布采样的虚拟句子上最小化邻域风险，其中关键的一个是针对对抗句子的新颖邻域分布，描述了以观测训练句对为中心的平滑插值嵌入空间。然后我们讨论我们的方法 AdvAug，在序列到序列学习中利用虚拟句子的嵌入训练 NMT 模型。在汉英、英法以及英德翻译基准上的实验表明，AdvAug 相比 Transformer 取得显著提升（最高 4.9 个 BLEU 点），并在不使用额外语料的情况下大幅优于其他数据增强技术（如回译）。
引用
@article{arxiv.2006.11834,
title = {AdvAug: Robust Adversarial Augmentation for Neural Machine Translation},
author = {Yong Cheng and Lu Jiang and Wolfgang Macherey and Jacob Eisenstein},
journal= {arXiv preprint arXiv:2006.11834},
year = {2020}
}
备注
published at ACL2020