中文

PredRNN++:化解时空预测学习中时间深度困境之道

机器学习 2018-11-20 v2 计算机视觉与模式识别 机器学习

摘要

我们提出 PredRNN++,一种用于视频预测学习的改进循环网络。为追求更强的时空建模能力,我们的方法利用一种名为因果 LSTM (Causal LSTM) 的新型循环单元,以级联机制重组空间与时间记忆,从而增加了相邻状态间的转移深度。然而,视频预测学习中仍存在一个困境:为捕捉复杂变化而设计的日益时间深化的模型,同时给梯度反向传播带来了更多困难。为缓解这一不良效应,我们提出梯度高速公路 (Gradient Highway) 架构,为从输出回到长距离输入的梯度流提供可选的更短路径。该架构与因果 LSTM 无缝协作,使 PredRNN++ 能自适应地捕捉短期与长期依赖。我们在合成与真实视频数据集上评估了模型,显示其缓解梯度消失问题的能力,并即使在困难的物体遮挡场景下也能取得最先进的预测结果。

关键词

引用

@article{arxiv.1804.06300,
  title  = {PredRNN++: Towards A Resolution of the Deep-in-Time Dilemma in Spatiotemporal Predictive Learning},
  author = {Yunbo Wang and Zhifeng Gao and Mingsheng Long and Jianmin Wang and Philip S. Yu},
  journal= {arXiv preprint arXiv:1804.06300},
  year   = {2018}
}