中文

SEDformer:面向不规则遥测时间序列的事件同步脉冲变换器

机器学习 2026-02-04 v2 人工智能

摘要

来自大规模互联网连接系统(例如物联网部署和在线平台)的遥测流天然形成不规则多变量时间序列(IMTS),其准确预测在运营中至关重要。更深入的检查揭示了IMTS的一个决定性稀疏-事件二元性(SED)属性,即长时间的稀疏或无观测间隙被短而密集的脉冲所 punctuated,其中大部分语义事件(观测)发生。然而,现有的基于图和变换器的预测方法忽略了SED:预对齐到均匀网格的填充会破坏稀疏性,导致在非信息性步骤上的计算,而基于关系的重塑则通过破坏局部时间连续性削弱了事件语义。这些限制促使我们寻求一种更忠实且自然的IMTS建模范式,以其SED特性为指导。我们发现,脉冲神经网络满足这一要求,因为它们通过稀疏二进制脉冲进行通信,并以事件驱动方式更新,自然地与IMTS的SED本质相吻合。因此,我们提出了SEDformer,这是一种针对遥测IMTS预测的SED增强脉冲变换器,通过以下方式实现:(1)基于SED的脉冲编码器使用事件对齐LIF神经元将原始观测转换为事件同步脉冲;(2)事件保持时间下采样模块在保留关键放电的同时压缩长间隙;(3)一组SED-based脉冲变换器块启用基于EA-LIF脉冲特征的记忆细胞驱动的线性注意力,以进行序列内依赖建模。在公共遥测IMTS数据集上的实验表明,SEDformer在获取国际先进预测准确性的同时,降低了能源和内存使用,为IMTS建模提供了一条自然且高效的路径。

关键词

引用

@article{arxiv.2602.02230,
  title  = {SEDformer: Event-Synchronous Spiking Transformers for Irregular Telemetry Time Series Forecasting},
  author = {Ziyu Zhou and Yuchen Fang and Weilin Ruan and Shiyu Wang and James Kwok and Yuxuan Liang},
  journal= {arXiv preprint arXiv:2602.02230},
  year   = {2026}
}

备注

Under review