中文

分支序列

机器学习 2026-01-09 v4

摘要

虽然准确率是时间序列预测的关键要求,但预测在预测创建日期(FCD)间的稳定性同样重要。即便是高度准确的模型,也可能在 FCD 之间产生剧烈的修订,从而干扰下游决策。为提高此类修订的预测稳定性,包括 MQCNN、MQT 和 SPADE 等最新模型都采用了一种强大且鲜有人关注的神经网络架构设计——分支序列。该架构设计同时对所有 FCD 上的整个时间序列进行编码与解码,单次前向传播即可生成整个多时段预测网格。与传统神经预测方法分别处理每个 FCD、每次前向传播仅生成单个多时段预测不同,分支序列能够一次性处理所有 FCD。本文对分支序列设计进行形式化,并通过引入衡量预测修订中超额波动的指标,以及提供的理论与实证分析来推动其更广泛的采用。我们从理论上阐释了分支序列的三个关键优势:(i)通过集成提升预测稳定性;(ii)梯度方差降低,导致更稳定一致的训练步骤;(iii)推理期间计算效率提高。我们在 M 系列基准测试中与窗口抽样基线进行比较,使用来自 M1、M3、M4 和 Tourism 竞赛的 16 个数据集进行验证。我们观察到对于 MLP、RNN、LSTM、CNN、Transformer 和 StateSpace 各类架构,分别在数据集上的中位数准确率提升分别为 29.7%、46.2%、49.3%、28.6%、24.7% 和 6.4%。随后我们表明,在保持准确率的前提下,进行预测集成可使这些模型训练的分支序列在中位数预测稳定性方面分别提升 10.8%、13.2%、13.0%、10.9%、10.2% 和 11.2%。

关键词

引用

@article{arxiv.2510.04487,
  title  = {Forking-Sequences},
  author = {Willa Potosnak and Malcolm Wolff and Mengfei Cao and Ruijun Ma and Tatiana Konstantinova and Dmitry Efimov and Michael W. Mahoney and Boris Oreshkin and Kin G. Olivares},
  journal= {arXiv preprint arXiv:2510.04487},
  year   = {2026}
}

备注

Presented at the GPU-Accelerated and Scalable Optimization (ScaleOpt) Workshop, NeurIPS 2025