面向时间序列分析的任务感知Mixture-of-Experts
机器学习
2026-01-21 v3
摘要
时间序列分析广泛应用于天气预报、金融欺诈检测、物联网系统缺失数据插值以及动作识别分类等多个实际应用场景。Mixture-of-Experts(MoE)作为一种强大的架构，虽在自然语言处理中表现出效能，但由于其任务无感路由器以及缺乏建模通道相关性的能力，仍不足以适应时间序列分析中的多样化任务。本研究提出一种新型、通用的基于MoE的时间序列框架，称为PatchMoE，以支持不同任务中复杂的"知识"利用，从而实现任务感知。基于观察到层次表示在不同任务间存在差异（例如预测与分类），我们提出了一种Recurrent Noisy Gating策略，以利用层次信息进行路由，从而获得任务特定的能力。路由策略在时间序列标记的时空维度上进行，并通过精心设计的Temporal \& Channel Load Balancing Loss得到鼓励，以建模复杂的时空相关性。针对五个下游任务进行的全面实验表明，PatchMoE在各项指标上实现了最先进的性能。
引用
@article{arxiv.2509.22279,
title = {Task-Aware Mixture-of-Experts for Time Series Analysis},
author = {Xingjian Wu and Zhengyu Li and Hanyin Cheng and Xiangfei Qiu and Jilin Hu and Chenjuan Guo and Bin Yang},
journal= {arXiv preprint arXiv:2509.22279},
year = {2026}
}