中文

WaveMoE:面向时间序列预测的基于小波增强的混合专家基础模型

机器学习 2026-04-14 v1 人工智能

摘要

时间序列基础模型(TSFMs)近期在利用多样化时间序列数据进行大规模预训练后,取得了在通用预测任务中取得显著成功的成绩。补充这一进展的是,引入频率域信息可在建模复杂时序模式(如周期性和局部高频动态,这些模式在现实世界时间序列中广泛存在)方面取得有前景的性能。为推进这一方向,我们提出了一种将显式频率域表示集成到可扩展基础模型中的新视角,介绍 WaveMoE——一种面向时间序列预测的小波增强混合专家基础模型。WaveMoE 采用双路径架构,联合处理沿统一时间轴对齐的时间序列标记和小波标记,并通过共享的专家路由机制进行协调,以实现一致的专家专业化同时高效扩展模型容量。针对 16 个多样化基准数据集的初步实验结果表明,WaveMoE 通过纳入小波域语料库,有望进一步提升预测性能。

关键词

引用

@article{arxiv.2604.10544,
  title  = {WaveMoE: A Wavelet-Enhanced Mixture-of-Experts Foundation Model for Time Series Forecasting},
  author = {Shunyu Wu and Jiawei Huang and Weibin Feng and Boxin Li and Xiao Zhang and Erli Meng and Dan Li and Jian Lou and See-Kiong Ng},
  journal= {arXiv preprint arXiv:2604.10544},
  year   = {2026}
}

备注

Presented at ICLR 2026 TSALM Workshop (1st Workshop on Time Series in the Age of Large Models)