自适应去趋势以加速用于上下文视频识别的卷积门控循环单元训练
计算机视觉与模式识别
2017-05-25 v1
摘要
基于图像识别的进展，视频识别近年来得到了广泛研究。然而，现有大多数方法侧重于短期而非长期视频识别，即所谓的上下文视频识别。为解决上下文视频识别问题，我们使用具有丰富时空信息处理能力的卷积循环神经网络，但 ConvRNN 需要大量计算，从而减慢了训练速度。本文受归一化和去趋势方法的启发，提出用于时间归一化的自适应去趋势，以加速 ConvRNN 特别是卷积门控循环单元的训练。AD 通过减去一个趋势来消除循环神经网络中每个神经元序列内的内部协变量偏移。在针对 ConvGRU 的上下文识别实验中，结果表明：(1) ConvGRU 明显优于前馈神经网络；(2) AD 持续提供显著的训练加速和泛化改进；(3) AD 与现有归一化方法协作可得到进一步改进。
引用
@article{arxiv.1705.08764,
title = {Adaptive Detrending to Accelerate Convolutional Gated Recurrent Unit Training for Contextual Video Recognition},
author = {Minju Jung and Haanvid Lee and Jun Tani},
journal= {arXiv preprint arXiv:1705.08764},
year = {2017}
}