通用延迟嵌入的时间序列基础模型
机器学习
2025-09-16 v1 人工智能
摘要
本研究提出了通用延迟嵌入（UDE），一个预训练的基础模型，旨在通过延迟嵌入表示与Koopman算子预测的有机整合来革新时间序列预测。利用Takens嵌入定理，UDE作为观测数据的动力学表示，从Hankel矩阵中构建二维子空间补丁，理论上保留了底层动力系统的动力学和拓扑性质。这些补丁被视为图像，可以利用先进的深度学习技术高效处理。在计算上，这些补丁进一步作为学习自注意力编码器的标记，从而通过有限维Koopman算子在潜在空间中以线性方式准确预测非线性时间序列。在各种基准和真实气候数据集上的广泛评估表明，与最先进的基础模型相比，均方误差平均降低超过20%，并在微调场景中展现出优越的泛化能力。特别地，从补丁中学习到的动力学表示和Koopman算子预测形式展现出卓越的直观性，能够一致地识别拓扑信息子空间并稳健地编码领域不变动力学，使UDE成为一个可扩展、直观的时间序列建模与预测通用框架，具有广泛的科学和工业应用前景。
引用
@article{arxiv.2509.12080,
title = {A Time-Series Foundation Model by Universal Delay Embedding},
author = {Zijian Wang and Peng Tao and Jifan Shi and Rui Bao and Rui Liu and Luonan Chen},
journal= {arXiv preprint arXiv:2509.12080},
year = {2025}
}