基于非下采样全卷积神经网络的时间序列建模
机器学习
2015-08-04 v1 机器学习
摘要
我们提出了一种新的基于卷积神经网络的时间序列模型。典型的卷积神经网络(CNN)架构在层之间使用最大池化操作,导致顶层分辨率降低。相反,在本工作中,我们考虑一种使用因果滤波操作的全卷积网络(FCN)架构,并允许输出信号的速率与输入信号相同。我们进一步提出了 FCN 的非下采样版本,即非下采样全卷积神经网络(UFCNN),其动机来自非下采样小波变换。我们的实验结果验证,使用 FCN 的非下采样版本对于有效的时间序列建模是必要的。UFCNN 相较于循环神经网络(RNN)和长短期记忆(LSTM)等其他时间序列模型具有若干优势,因为它既不受梯度消失问题也不受梯度爆炸问题的影响,因此更易于训练。卷积操作也可以比 RNN 模型中涉及的递归更高效地实现。我们在合成目标跟踪任务(使用由状态空间模型生成的仅方位角测量)、多声部音乐序列的概率建模任务以及使用买卖报价及其对应成交量的时间序列的高频交易任务中评估了模型的性能。使用合成和真实数据集的实验结果验证了 UFCNN 相较于 RNN 和 LSTM 基线的显著优势。
引用
@article{arxiv.1508.00317,
title = {Time-series modeling with undecimated fully convolutional neural networks},
author = {Roni Mittelman},
journal= {arXiv preprint arXiv:1508.00317},
year = {2015}
}