解耦循环 Wasserstein 自编码器
机器学习
2021-01-20 v1 人工智能
摘要
学习解耦表示可得到可解释的模型,并有助于带风格迁移的数据生成,这已在静态数据(如图像)的无监督学习框架中被广泛研究。然而,由于序列数据生成的挑战,仅有少数工作探索了无监督解耦序列表示学习。本文中,我们提出循环 Wasserstein 自编码器(R-WAE),一种用于序列数据生成建模的新框架。R-WAE 将输入序列的表示解耦为静态与动态因子(即时间不变与时间变化部分)。我们的理论分析表明,R-WAE 分别最小化模型分布与序列数据分布之间一种带惩罚形式的 Wasserstein 距离的上界,并同时最大化输入数据与不同解耦潜在因子之间的互信息。这优于(循环)VAE,后者未显式强制输入数据与解耦潜在表示之间的互信息最大化。当序列数据中的动作数量可作为弱监督信息获得时,R-WAE 被扩展为学习动作的类别潜在表示以改进其解耦。在多个数据集上的实验表明,我们的模型在解耦和无条件视频生成方面,在定量与定性上均优于同设置下的其他基线。
引用
@article{arxiv.2101.07496,
title = {Disentangled Recurrent Wasserstein Autoencoder},
author = {Jun Han and Martin Renqiang Min and Ligong Han and Li Erran Li and Xuan Zhang},
journal= {arXiv preprint arXiv:2101.07496},
year = {2021}
}
备注
ICLR 2021