CipherDAug:基于密文的神经机器翻译数据增强
计算与语言
2022-04-05 v1
摘要
我们提出了一种基于ROT- 密文的神经机器翻译新型数据增强技术。ROT- 是一种简单的字母替换密码,将明文中的字母替换为字母表中其后第 个字母。我们首先使用不同的 值为平行数据的源端明文生成多个ROT- 密文。然后我们通过多源训练将这种加密训练数据与原始平行数据结合,以改进神经机器翻译。我们的方法CipherDAug使用受协同正则化启发的训练过程,除原始训练数据外不需要外部数据源,并使用标准Transformer在多个数据集上以显著优势超越强数据增强技术。该技术易于与现有数据增强方法结合,并在低资源环境下产生特别强劲的结果。
引用
@article{arxiv.2204.00665,
title = {CipherDAug: Ciphertext based Data Augmentation for Neural Machine Translation},
author = {Nishant Kambhatla and Logan Born and Anoop Sarkar},
journal= {arXiv preprint arXiv:2204.00665},
year = {2022}
}
备注
ACL 2022 Main Conf. camera ready version