基于双重往返翻译生成超越语义保持的真实对抗样本
计算与语言
2022-04-20 v1
摘要
利用单次往返翻译（Round-Trip Translation, RTT）为神经机器翻译（Neural Machine Translation, NMT）生成对抗样本通过解除语义保持限制已取得令人鼓舞的结果。然而，该方法的一个潜在缺陷是，我们无法判断生成的样本是对目标 NMT 模型还是对辅助反向模型构成对抗，因为经 RTT 的重构误差可能与二者均相关。为补救此问题，我们提出了一种基于双重往返翻译（Doubly Round-Trip Translation, DRTT）的 NMT 对抗样本新准则。具体而言，除源-目标-源 RTT 外，我们还考虑目标-源-目标 RTT，用以挑选出针对目标 NMT 模型的真实对抗样本。此外，为增强 NMT 模型的鲁棒性，我们引入掩码语言模型基于 DRTT 构建双语对抗样本对，并直接用于训练 NMT 模型。在干净和含噪测试集（包括人工与自然噪声）上的大量实验表明，我们的方法显著提升了 NMT 模型的鲁棒性。
引用
@article{arxiv.2204.08689,
title = {Generating Authentic Adversarial Examples beyond Meaning-preserving with Doubly Round-trip Translation},
author = {Siyu Lai and Zhen Yang and Fandong Meng and Xue Zhang and Yufeng Chen and Jinan Xu and Jie Zhou},
journal= {arXiv preprint arXiv:2204.08689},
year = {2022}
}
备注
Accepted at NAACL 2022 as a long paper of main conference