IMTS 值得时间 $\times$ 通道分块:用于非规则多变量时间序列预测的视觉掩码自编码器
计算机视觉与模式识别
2025-06-02 v2 人工智能
机器学习
摘要
由于多通道信号未对齐的性质和大量缺失数据的普遍存在,非规则多变量时间序列(IMTS)预测具有挑战性。由于存在大量缺失值,现有方法难以从此类数据中捕获可靠的时间模式。虽然预训练的基础模型展现出应对这些挑战的潜力,但它们通常是为规则采样时间序列(RTS)设计的。受视觉掩码自编码器(MAE)在建模稀疏多通道信息方面的强大能力及其在 RTS 预测中成功应用的启发,我们提出了 VIMTS,一个将视觉 MAE 适配于 IMTS 预测的框架。为了减轻缺失值的影响,VIMTS 首先沿时间线将 IMTS 处理成等间隔的特征分块。然后利用学习到的跨通道依赖关系来补充这些分块。接着,它利用视觉 MAE 处理稀疏多通道数据的能力进行分块重建,随后采用由粗到细的技术从聚焦的上下文中生成精确的预测。此外,我们通过将视觉 MAE 适配到 IMTS 数据,集成了自监督学习以改进 IMTS 建模。大量实验证明了 VIMTS 的卓越性能和少样本能力,推进了视觉基础模型在更通用的时间序列任务中的应用。我们的代码可在 https://github.com/WHU-HZY/VIMTS 获取。
关键词
引用
@article{arxiv.2505.22815,
title = {IMTS is Worth Time $\times$ Channel Patches: Visual Masked Autoencoders for Irregular Multivariate Time Series Prediction},
author = {Zhangyi Hu and Jiemin Wu and Hua Xu and Mingqian Liao and Ninghui Feng and Bo Gao and Songning Lai and Yutao Yue},
journal= {arXiv preprint arXiv:2505.22815},
year = {2025}
}
备注
ICML 2025