Switch-Hurdle:基于AR Hurdle解码器的MoE编码器用于间歇性需求预测
机器学习
2026-02-27 v1
摘要
间歇性需求以长时间的零销量序列交替出现零售和供应链预测中的稀疏非零值而特征,这是一持续存在的挑战。如 ARIMA、指数平滑或克罗斯特变体等传统方法,以及如 DeepAR 和基于 Transformer 的神经网络架构,往往在此类数据上表现不佳——它们将需求视为单一的连续过程,或在大量稀疏序列上扩展时计算代价高昂。为克服这些限制,我们提出了 Switch-Hurdle:一种新框架,将 Mixture-of-Experts(MoE)编码器与基于 Hurdle 的概率解码器相结合。编码器在前向传播期间使用稀疏 Top-1 专家路由,但通过直通估计器(STE)在反向传播期间近似稠密。解码器遵循基于交叉注意力的自回归设计,采用共享的 Hurdle 头显式地将预测任务分为两个组成部分:估计销售概率的二元分类组件,以及给定销售后预测数量的条件回归组件。这种结构化的分离使模型能够捕捉间歇性需求中固有的发生过程和幅度过程。在 M5 基准和大型专有零售数据集上的实证结果表明,Switch-Hurdle 实现了最先进的预测性能,同时保持了可扩展性。
引用
@article{arxiv.2602.22685,
title = {Switch-Hurdle: A MoE Encoder with AR Hurdle Decoder for Intermittent Demand Forecasting},
author = {Fabian Muşat and Simona Căbuz},
journal= {arXiv preprint arXiv:2602.22685},
year = {2026}
}