从无监督机器翻译到对抗式文本生成
计算与语言
2020-11-12 v1
摘要
我们提出了一种基于自注意力的双语对抗式文本生成器（B-GAN），它可以从无监督神经机器翻译系统的编码器表示中学习生成文本。B-GAN 能够生成分布式的潜空间表示，该表示可与基于注意力的解码器配对以生成流畅的句子。当在两种语言间共享的编码器上训练并配以相应的解码器时，它可以用任一语言生成句子。B-GAN 使用自编码器的重构损失、用于翻译的跨域损失以及基于 GAN 的对抗损失相结合进行训练。我们证明，仅使用单语语料库并通过多损失训练的 B-GAN，相较于单语基线能生成更流畅的句子，同时有效使用了仅一半数量的参数。
引用
@article{arxiv.2011.05449,
title = {From Unsupervised Machine Translation To Adversarial Text Generation},
author = {Ahmad Rashid and Alan Do-Omri and Md. Akmal Haidar and Qun Liu and Mehdi Rezagholizadeh},
journal= {arXiv preprint arXiv:2011.05449},
year = {2020}
}
备注
Accepted at ICASSP 2020