Kairos:迈向自适应且参数高效的时间序列基础模型
机器学习
2026-05-15 v3
摘要
固有的时间异质性(如变化的采样密度和周期结构)对时间序列基础模型(TSFM)的零样本泛化提出了重大挑战。现有的 TSFM 主要依赖庞大的参数化来吸收这种异质性,因为其静态分词和位置编码方案将多样的时间模式纠缠在固定的表示空间中,鼓励记忆而非适应。为了解决这一局限性,我们提出了 Kairos,一种专用于预测任务的灵活且参数高效的 TSFM,它通过一种新颖的分词视角将时间异质性与模型容量解耦。Kairos 引入了动态分块分词器和混合尺寸编码,将观测粒度适应于局部信息密度,在不增加模型宽度或深度的情况下实现细粒度的时间抽象。此外,我们设计了一种基于动态旋转编码的多粒度位置嵌入,其以实例级频谱特征和由动态分块分词引起的时间结构为条件,允许对多样时间依赖关系进行鲁棒建模。在一种新颖的可预测性分层时间序列(PreSTS)语料库上训练后,Kairos 在两个主流基准 GIFT-Eval 和 Time-Series-Library 上以显著更少的参数实现了卓越的零样本性能。项目页面位于 https://foundation-model-research.github.io/Kairos 。
引用
@article{arxiv.2509.25826,
title = {Kairos: Toward Adaptive and Parameter-Efficient Time Series Foundation Models},
author = {Kun Feng and Shaocheng Lan and Yuchen Fang and Wenchao He and Sihan Lu and Shuqi Gu and Lintao Ma and Xingyu Lu and Kan Ren},
journal= {arXiv preprint arXiv:2509.25826},
year = {2026}
}