PredRNN++:化解时空预测学习中时间深度困境之道
机器学习
2018-11-20 v2 计算机视觉与模式识别
机器学习
摘要
我们提出 PredRNN++,一种用于视频预测学习的改进循环网络。为追求更强的时空建模能力,我们的方法利用一种名为因果 LSTM (Causal LSTM) 的新型循环单元,以级联机制重组空间与时间记忆,从而增加了相邻状态间的转移深度。然而,视频预测学习中仍存在一个困境:为捕捉复杂变化而设计的日益时间深化的模型,同时给梯度反向传播带来了更多困难。为缓解这一不良效应,我们提出梯度高速公路 (Gradient Highway) 架构,为从输出回到长距离输入的梯度流提供可选的更短路径。该架构与因果 LSTM 无缝协作,使 PredRNN++ 能自适应地捕捉短期与长期依赖。我们在合成与真实视频数据集上评估了模型,显示其缓解梯度消失问题的能力,并即使在困难的物体遮挡场景下也能取得最先进的预测结果。
引用
@article{arxiv.1804.06300,
title = {PredRNN++: Towards A Resolution of the Deep-in-Time Dilemma in Spatiotemporal Predictive Learning},
author = {Yunbo Wang and Zhifeng Gao and Mingsheng Long and Jianmin Wang and Philip S. Yu},
journal= {arXiv preprint arXiv:1804.06300},
year = {2018}
}