中文

ConvTimeNet:一种用于多变量时间序列分析的深层分层纯卷积模型

机器学习 2024-12-17 v2

摘要

设计有效的模型以学习时间序列表示是时间序列分析的基础。许多先前的工作探索了时间序列表示建模方法,并在该领域取得了进展。尽管这些方法有效,但它们对时间依赖性基本单元的局部模式缺乏自适应感知,且未能捕捉这些单元间的多尺度依赖关系。不同于以自注意力机制为中心的主流方法,我们提出了 ConvTimeNet,一种为时间序列分析设计的分层纯卷积模型。ConvTimeNet 引入了可变形分块层(deformable patch layer),以数据驱动的方式自适应地感知时间依赖性基本单元的局部模式。基于提取的局部模式,设计了分层纯卷积块以捕捉不同尺度下基本单元表示间的依赖关系。此外,采用大卷积核机制以确保卷积块可深层堆叠,从而获得更大的感受野。以此方式,可在单一模型内有效建模局部模式及其多尺度依赖关系。在广泛对比多种不同类型模型的实验中表明,纯卷积模型依然展现出强大的生命力,有效解决了上述两个挑战,并在多个任务中表现出优越性能。代码已开源以供复现。

关键词

引用

@article{arxiv.2403.01493,
  title  = {ConvTimeNet: A Deep Hierarchical Fully Convolutional Model for Multivariate Time Series Analysis},
  author = {Mingyue Cheng and Jiqian Yang and Tingyue Pan and Qi Liu and Zhi Li},
  journal= {arXiv preprint arXiv:2403.01493},
  year   = {2024}
}