对抗正则化自编码器
机器学习
2018-07-02 v3 计算与语言
神经与进化计算
摘要
使用变分自编码器或生成对抗网络训练的深度潜变量模型,现已成为连续结构表示学习的关键技术。然而,将类似方法应用于离散结构(如文本序列或离散化图像)已被证明更具挑战性。在本工作中,我们提出了一种训练离散结构深度潜变量模型的灵活方法。我们的方法基于近期提出的 Wasserstein 自编码器(WAE),该模型将对抗自编码器(AAE)形式化为最优传输问题。我们首先将此框架扩展至对离散序列建模,随后进一步探索旨在实现可控表示的不同学习先验。这种对抗正则化自编码器(ARAE)使我们能够生成自然文本输出,并在潜空间中进行操作以诱导输出空间的变化。最后,我们表明潜表示可被训练以执行非对齐文本风格迁移,与现有方法相比,在自动/人工评估中均取得了改进。
引用
@article{arxiv.1706.04223,
title = {Adversarially Regularized Autoencoders},
author = {Jake Zhao and Yoon Kim and Kelly Zhang and Alexander M. Rush and Yann LeCun},
journal= {arXiv preprint arXiv:1706.04223},
year = {2018}
}
备注
ICML 2018