利用 Skip-Thought 向量通过对抗训练生成文本
计算与语言
2020-05-19 v3 人工智能
机器学习
摘要
GAN 已在图像生成与风格迁移相关任务上表现出极佳性能。在语言建模领域，诸如 GLoVe 和 word2vec 的词嵌入是将神经网络模型应用于文本数据的先进方法。已有尝试将 GAN 与词嵌入结合用于文本生成。本研究提出一种使用 Skip-Thought 句子嵌入与基于梯度惩罚函数和 f 度量的 GAN 进行文本生成的方法。所提架构旨在通过在一个作者的所有作品中于句子层面建模表达方式，来复现生成文本中的写作风格。我们在包括条件文本生成和语言生成在内的多种任务上以不同嵌入设置进行了大量实验。该模型在 BLEU-n、METEOR 和 ROUGE 等多个自动评价指标上优于基线文本生成网络。此外，通过人工评判分数展示了其在现实任务中的广泛适用性与有效性。
引用
@article{arxiv.1808.08703,
title = {Generating Text through Adversarial Training using Skip-Thought Vectors},
author = {Afroz Ahamad},
journal= {arXiv preprint arXiv:1808.08703},
year = {2020}
}
备注
NAACL 2019: https://www.aclweb.org/anthology/N19-3008