中文

StretchTime:基于辨映注意力的自适应时间序列预测

机器学习 2026-02-10 v1 人工智能

摘要

Transformer架构在时间序列预测中已建立了强基准,但通常依赖假设均匀、基于索引的时间进展的位置编码。然而,现实系统(如变化的金融周期或弹性生物节律)常常表现出时间错位(time-warped)动态,其中有效时间流动与采样索引脱钩。本文首先形式化这种错位,证明旋转位置编码(RoPE)在表示非仿射时间错位方面无法胜任。为此,我们提出基于哈密顿力学的辨映位置编码(SyPE),它是一种可学习的编码框架。SyPE严格推广RoPE,将旋转群mathrmSO(2)\\mathrm{SO}(2)扩展到符号群mathrmSp(2,mathbbR)\\mathrm{Sp}(2,\\mathbb{R}),并由一种新型输入依赖的自适应错位模块调制。通过允许注意力机制端到端地自适应扩张或收缩时间坐标,Our方法在无需预定义错位函数的情况下捕获局部变化的周期性。我们在StretchTime中实现了该机制,该架构在标准基准测试上实现最先进性能,显示出在非平稳时间动态数据集上的优越鲁棒性。

关键词

引用

@article{arxiv.2602.08983,
  title  = {StretchTime: Adaptive Time Series Forecasting via Symplectic Attention},
  author = {Yubin Kim and Viresh Pati and Jevon Twitty and Vinh Pham and Shihao Yang and Jiecheng Lu},
  journal= {arXiv preprint arXiv:2602.08983},
  year   = {2026}
}