面向时间序列预测的基础模型有多基础?
机器学习
2025-10-08 v3
摘要
基础模型旨在作为通用嵌入机器,具有强大的零样子能力和在多样化下游任务上的优越泛化性能。尽管在语言和视觉领域的基础模型已大致实现这一点,但我们认为时间序列数据本身的内在多样性使其不太适合构建有效的基础模型。我们以预测为下游任务进行验证。我们展示了时间序列基础模型的零样子能力显著受其预训练的特定领域影响。此外,针对未出现的真实世界时间序列数据,微调后的基础模型未能 consistently(一致地)显著优于其参数规模和内存占用更大、针对特定预测任务优化的较小模型。
引用
@article{arxiv.2510.00742,
title = {How Foundational are Foundation Models for Time Series Forecasting?},
author = {Nouha Karaouli and Denis Coquenet and Elisa Fromont and Martial Mermillod and Marina Reyboz},
journal= {arXiv preprint arXiv:2510.00742},
year = {2025}
}
备注
Typo rectified in this v3 version. Accepted at NeurIPS 2025 Workshop on Recent Advances in Time Series Foundation Models (BERT2S)