中文

一个简单的状态空间模型在多变量时间序列分类中表现出色

机器学习 2026-05-28 v1

摘要

结构化状态空间模型(SSM)最近已成为序列建模的一个有前景的基础,基于Mamba的架构通过输入相关的状态转换展示了强大的性能,尽管其复杂度相当高。然而,它们在时间序列分类(TSC)中的应用在很大程度上局限于Mamba风格的架构,更广泛的SSM设计空间尚未得到充分探索。我们首次在大型TSC基准上进行了系统研究,涵盖了对角SSM(S4D)和输入相关SSM(Mamba系列),探究这种复杂性对于获得顶级性能是否必要。我们的结果揭示了一个令人惊讶的发现:S4D在准确性和效率上始终优于基于Mamba的变体,挑战了“增加复杂性会为TSC带来有意义的性能提升”这一假设。基于此,我们引入了MS4,即通过线性输入投影和通道混合机制对S4D进行的轻量级修改,以及MS4N,一种通过可忽略的开销稳定状态动力学的归一化变体。在MONSTER(多达6000万个样本、50000个时间步、82个类别)和UEA基准测试的59个数据集上,与15个基线模型相比,MS4和MS4N在保持更高效率的同时,始终优于基于Mamba的模型,并且MS4N在性能上匹配或超越了参数量大约是其2倍和10倍的竞争性深度学习模型。这些结果将轻量级结构化SSM定位为通过扩展复杂性来解决TSC问题的一个引人注目的替代方案。

关键词

引用

@article{arxiv.2605.27406,
  title  = {A Simple State Space Model Excels at Multivariate Time Series Classification},
  author = {Hassan Saadatmand and Geoffrey I. Webb and Hamid Rezatofighi and Mahsa Salehi},
  journal= {arXiv preprint arXiv:2605.27406},
  year   = {2026}
}