以纯模型把握时间序列的核心规律
机器学习
2022-08-16 v1 人工智能
机器学习
摘要
与时间序列的许多其他机器学习领域一样，其方法也从统计过渡到了深度学习。尽管在多个公开数据集上，随着模型的更新准确率似乎在提升，但这通常只是将规模扩大数倍以换取微小的准确率差异。通过本实验，我们指出一种不同的思路：时间序列，尤其是长期预测，可能与其他领域不同。不必使用庞大而复杂的模型来把握时间序列的方方面面，而是应使用纯模型来把握时间序列变化的核心规律。基于这一简单而有效的想法，我们创建了 PureTS——一个仅由三个纯线性层组成的网络，在 80% 的长序列预测任务中达到了最先进水平（SOTA），同时几乎是最轻量的模型且拥有最快的运行速度。在此基础上，我们从现象与本质两方面探讨了纯线性层的潜力。理解核心规律的能力有助于远距离预测的高精度，而合理的波动使其不会像主流深度学习模型那样在多步预测中扭曲曲线，这被总结为一种避免过波动的纯线性神经网络。最后，我们提出了轻量长步时间序列任务的基本设计准则：输入与输出应尽量具有相同维度，且结构应避免碎片化与复杂操作。
引用
@article{arxiv.2208.07105,
title = {Grasping Core Rules of Time Series through Pure Models},
author = {Gedi Liu and Yifeng Jiang and Yi Ouyang and Keyang Zhong and Yang Wang},
journal= {arXiv preprint arXiv:2208.07105},
year = {2022}
}
备注
To be submitted to the conference