基于深度学习中随机连接的长短期记忆流量预测
网络与互联网体系结构
2018-04-04 v2 神经与进化计算
摘要
流量预测在评估电信网络性能方面起着重要作用，并引起了强烈的研究兴趣。大量算法和模型已被提出以分析流量数据并进行预测。在近期的大数据时代，深度学习已被用来挖掘隐藏在数据中的深层信息。特别是长短期记忆（LSTM）作为一种循环神经网络（RNN）方案，因能够处理序列流量数据中嵌入的长程依赖而备受关注。然而，LSTM 具有可观的计算成本，在具有严格时延要求的任务中无法被容忍。在本文中，我们提出了一种基于 LSTM 的深度学习模型，称为随机连接 LSTM（RCLSTM）。与传统 LSTM 相比，RCLSTM 在神经网络的形成上取得了显著突破，即神经元以随机方式连接而非全连接。因此，具有一定内在稀疏性的 RCLSTM 缺失了许多神经连接（区别于全连接），这导致了待训练参数和计算成本的减少。我们将 RCLSTM 应用于流量预测，并验证即使仅有 35% 神经连接度的 RCLSTM 仍表现出令人满意的性能。当我们逐步增加训练样本时，RCLSTM 的性能越来越接近基线 LSTM。此外，对于足够长度的输入流量序列，RCLSTM 甚至表现出优于基线 LSTM 的预测精度。
引用
@article{arxiv.1711.02833,
title = {Traffic Prediction Based on Random Connectivity in Deep Learning with Long Short-Term Memory},
author = {Yuxiu Hua and Zhifeng Zhao and Rongpeng Li and Xianfu Chen and Zhiming Liu and Honggang Zhang},
journal= {arXiv preprint arXiv:1711.02833},
year = {2018}
}
备注
6 pages, 9 figures