基于对比学习的梯度引导无监督文本风格迁移
计算与语言
2022-02-02 v1 人工智能
摘要
文本风格迁移是一项具有挑战性的文本生成任务，旨在将给定句子的风格转换为目标风格，同时保持其内容不变。由于平行语料天然稀缺，近期工作主要聚焦于以无监督方式解决该问题。然而，以往基于梯度的方法普遍存在如下缺陷：(1) 内容迁移。以往方法缺乏对内容不变性的显式建模，因此易受原句与迁移后句子之间内容偏移的影响。(2) 风格误分类。梯度引导方法的一个天然缺陷在于其推理过程与对抗攻击一脉相承，使得潜在优化因误分类而轻易变成对分类器的攻击。这导致难以实现高迁移准确率。为解决上述问题，我们提出一种新颖的梯度引导模型，通过对比范式进行文本风格迁移，分别显式聚集语义相近的句子，并设计基于孪生结构的风格分类器以缓解这两类问题。在两个数据集上的实验表明了我们所提方法相较于 SOTA 方法的有效性。
引用
@article{arxiv.2202.00469,
title = {Gradient-guided Unsupervised Text Style Transfer via Contrastive Learning},
author = {Chenghao Fan and Ziao Li and Wei wei},
journal= {arXiv preprint arXiv:2202.00469},
year = {2022}
}