MoCoGAN:分解运动与内容的视频生成框架
计算机视觉与模式识别
2017-12-15 v2
摘要
视频中的视觉信号可分为内容与运动。内容指定视频中的物体,运动描述其动态。基于这一先验,我们提出运动与内容分解生成对抗网络(MoCoGAN)框架用于视频生成。该框架通过将随机向量序列映射到视频帧序列来生成视频。每个随机向量由内容部分和运动部分组成。内容部分保持固定,运动部分则实现为随机过程。为以无监督方式学习运动与内容分解,我们引入了一种新颖的对抗学习方案,同时利用图像判别器和视频判别器。在多个具有挑战性的数据集上进行的广泛实验,以及与最先进方法的定性和定量比较,验证了所提框架的有效性。此外,我们展示了MoCoGAN能够生成内容相同但运动不同,以及运动相同但内容不同的视频。
引用
@article{arxiv.1707.04993,
title = {MoCoGAN: Decomposing Motion and Content for Video Generation},
author = {Sergey Tulyakov and Ming-Yu Liu and Xiaodong Yang and Jan Kautz},
journal= {arXiv preprint arXiv:1707.04993},
year = {2017}
}