中文

B-样条自适应标记器用于长期时间序列预测

机器学习 2026-01-05 v1

摘要

使用 transformer 进行长期时间序列预测受限于自注意力的二次复杂度以及均匀分块的刚性,这可能与数据语义结构不一致。在本文中,我们引入了 \textit{B-样条自适应标记器 (BSAT)},一种新型无参数方法,通过拟合 B 样条来自适应分割时间序列。BSAT 在算法层面将标记置于高曲率区域,并将每个可变长基函数表示为固定大小的标记,由其系数和位置组成。进一步,我们提出了一种混合位置编码,将可学习的加法位置编码与具有层级可学习基的旋转位置编码相结合。这使得每个层可以关注不同的时间依赖性。我们的实验在几个公开基准数据集上表明,该模型在高压缩率下表现出竞争力。这使其特别适用于内存受限的情况。

关键词

引用

@article{arxiv.2601.00698,
  title  = {BSAT: B-Spline Adaptive Tokenizer for Long-Term Time Series Forecasting},
  author = {Maximilian Reinwardt and Michael Eichelbeck and Matthias Althoff},
  journal= {arXiv preprint arXiv:2601.00698},
  year   = {2026}
}

备注

20 pages, 7 figures