无对抗训练的多类型解耦
计算与语言
2021-08-04 v2 人工智能
机器学习
摘要
通过解耦潜在空间来控制自然语言的风格,是迈向可解释机器学习的重要一步。在潜在空间解耦后,可通过调节风格表示来转换句子的风格,而不影响句子的其他特征。以往工作通常使用对抗训练来保证解耦向量互不影响。然而,对抗方法难以训练。特别是当存在多个特征(例如情感或时态,本文称之为风格类型)时,每个特征都需要一个单独的判别器来提取对应于该特征的解耦风格向量。本文提出一种统一的分布控制方法,为每一个特定风格值(风格类型的值,例如正向情感或过去时态)提供唯一的表示。该方法为多类型解耦中避免对抗训练提供了坚实的理论基础。我们还提出了多种损失函数,以实现风格-内容解耦以及多种风格类型之间的解耦。此外,我们观察到,若两种不同的风格类型在数据集中总是具有某些共同出现的特定风格值,则在转换风格值时它们会相互影响。我们称此现象为训练偏置,并提出了一种损失函数以在多类型解耦时缓解此类训练偏置。我们在两个数据集(Yelp 服务评论和 Amazon 产品评论)上进行了实验,以评估在情感和时态两种风格类型上的风格解耦效果及无监督风格迁移性能。实验结果表明了我们模型的有效性。
引用
@article{arxiv.2012.08883,
title = {Multi-type Disentanglement without Adversarial Training},
author = {Lei Sha and Thomas Lukasiewicz},
journal= {arXiv preprint arXiv:2012.08883},
year = {2021}
}