中文

用于条件文本生成的即插即用自编码器

计算与语言 2020-10-13 v2 人工智能

摘要

文本自编码器常用于风格迁移等条件生成任务。我们提出即插即用的方法,可使用任意预训练自编码器,仅需学习自编码器嵌入空间内的映射,即训练嵌入到嵌入(Emb2Emb)。这减少了对该任务标注训练数据的需求,并使训练过程更高效。该方法成功的关键在于一个用于将映射后嵌入保持在自编码器流形上的损失项,以及一个通过学习的偏移向量来导航该流形而训练的映射。在有监督和无序列到序列监督的风格迁移任务上的评估表明,我们的方法优于或可与强基线相媲美,同时最高快达四倍。

关键词

引用

@article{arxiv.2010.02983,
  title  = {Plug and Play Autoencoders for Conditional Text Generation},
  author = {Florian Mai and Nikolaos Pappas and Ivan Montero and Noah A. Smith and James Henderson},
  journal= {arXiv preprint arXiv:2010.02983},
  year   = {2020}
}

备注

To be published in EMNLP 2020