Sundial：一个高性能时间序列基础模型家族
机器学习
2026-05-12 v4
摘要
我们介绍了 Sundial，一个原生、灵活且可扩展的时间序列基础模型家族。为了预测下一个补丁的分布，我们提出了一种基于流匹配的 TimeFlow Loss，它有助于在连续值时间序列上对 Transformer 进行原生预训练，而无需离散分词。以任意长度的时间序列为条件，我们的模型在预训练时无需指定任何先验分布，并且可以生成多个可能的预测，从而在表示学习方面比使用参数密度实现了更大的灵活性。针对时间序列基础模型，我们利用了对 Transformer 的最小但关键的调整，并构建了包含一万亿个时间点的 TimeBench，该数据集主要由真实世界数据集和合成数据组成。通过 TimeFlow Loss 缓解模式崩溃，我们在 TimeBench 上预训练了一个 Sundial 模型家族，这些模型实现了前所未有的模型容量和泛化性能。除了出色的可扩展性外，Sundial 在点预测和概率预测基准测试中都取得了最先进的结果，并且具有即时推理速度，即在几毫秒内做出零样本预测。我们相信 Sundial 开创性的生成式预测能力可以提高现实世界决策中模型的可靠性。代码可在以下地址获取：https://github.com/thuml/Sundial。
引用
@article{arxiv.2502.00816,
title = {Sundial: A Family of Highly Capable Time Series Foundation Models},
author = {Yong Liu and Guo Qin and Zhiyuan Shi and Zhi Chen and Caiyin Yang and Xiangdong Huang and Jianmin Wang and Mingsheng Long},
journal= {arXiv preprint arXiv:2502.00816},
year = {2026}
}