转化删除-检索-生成方法以实现可控文本风格迁移
计算与语言
2019-08-27 v1 机器学习
摘要
文本风格迁移是在保留非风格或内容信息的同时，将具有特定风格属性的文本的风格进行迁移的任务。在本文中，我们介绍了生成式风格 Transformer (GST)——一种在无平行风格语料库情况下将句子重写至目标风格的新方法。GST 充分利用了大规模无监督预训练语言模型与 Transformer 两者的能力。GST 是更大的“删除 检索 生成”框架的一部分，在该框架中我们还提出了一种通过利用 Transformer 内部机制从源句中删除风格属性的新方法。我们的模型在情感、性别与政治倾向迁移的 5 个数据集上优于 SOTA 系统。我们还提出使用 GLEU 指标作为风格迁移的自动评价指标，我们发现其与人类评分的相关性优于主要使用的 BLEU 分数。
引用
@article{arxiv.1908.09368,
title = {Transforming Delete, Retrieve, Generate Approach for Controlled Text Style Transfer},
author = {Akhilesh Sudhakar and Bhargav Upadhyay and Arjun Maheswaran},
journal= {arXiv preprint arXiv:1908.09368},
year = {2019}
}
备注
11 pages, 6 Tables, 2 Figures, Accepted at 2019 Conference on Empirical Methods in Natural Language Processing (EMNLP - 2019)