AR-Net：一种用于时间序列的简单自回归神经网络
摘要
在本文中，我们提出了一种新的时间序列建模框架，它结合了传统统计模型与神经网络的优势。我们关注具有长程依赖的时间序列，这类数据对于监控细粒度数据（例如分钟、秒、毫秒）是必要的，并且在运营用例中十分普遍。传统模型，例如用最小二乘拟合的自回归（Classic-AR），可以用简洁且可解释的模型对时间序列建模。在处理长程依赖时，Classic-AR 模型在拟合大规模数据时会变得难以承受地缓慢。近来，序列到序列模型，例如最初用于自然语言处理的循环神经网络（RNN），在时间序列中变得流行。然而，对于典型的时间序列数据，它们可能过于复杂且缺乏可解释性。需要一种可扩展且可解释的模型来弥合统计方法与基于深度学习的方法之间的差距。作为实现该目标的第一步，我们提出使用前馈神经网络方法对 AR 过程动态进行建模，称为 AR-Net。我们表明 AR-Net 与 Classic-AR 一样可解释，同时可扩展到长程依赖。我们的结果得出三个主要结论：首先，AR-Net 学习到与 Classic-AR 相同的 AR 系数，因此具有同等可解释性。其次，相对于 AR 过程的阶数，AR-Net 的计算复杂度为线性，而 Classic-AR 为二次，这使得对细粒度数据中的长程依赖进行建模成为可能。第三，通过引入正则化，AR-Net 自动选择并学习稀疏的 AR 系数。这消除了需要知道 AR 过程确切阶数的需要，并允许为具有长程依赖的模型学习稀疏权重。
引用
@article{arxiv.1911.12436,
title = {AR-Net: A simple Auto-Regressive Neural Network for time-series},
author = {Oskar Triebe and Nikolay Laptev and Ram Rajagopal},
journal= {arXiv preprint arXiv:1911.12436},
year = {2019}
}
备注
Building a bridge between traditional statistical time-series models and deep-learning models. Main Topics: Time-Series, Auto-Regression, Neural Networks, Sparsity, Long-Range Dependencies