用于神经机器翻译的双重训练对抗数据增强
计算与语言
2021-10-13 v1
摘要
已知神经机器翻译(NMT)模型易受噪声输入影响。为使模型鲁棒,我们生成对抗增强样本,这些样本在攻击模型的同时保持源端语义含义。为生成此类样本,我们提出一种双重训练架构,将方向相反的两个NMT模型通过联合损失函数配对,该损失函数结合了目标端攻击与源端语义相似度约束。我们在三个不同语言对和两种评估指标上的实验结果表明,这些对抗样本提升了模型鲁棒性。
引用
@article{arxiv.2110.05691,
title = {Doubly-Trained Adversarial Data Augmentation for Neural Machine Translation},
author = {Weiting Tan and Shuoyang Ding and Huda Khayrallah and Philipp Koehn},
journal= {arXiv preprint arXiv:2110.05691},
year = {2021}
}