面向时间序列基础模型的可观测性视角
机器学习
2025-11-06 v2 人工智能
摘要
我们介绍 Toto，一个拥有 1.51 亿参数的时间序列预测基础模型。Toto 使用现代解码器-only 架构，结合专为解决多变量可观测性时间序列数据所面临的特定挑战而设计的架构创新。Toto 的预训练语料库是可观测性数据、开放数据集和合成数据的混合物，规模为领先时间序列基础模型的 4-10 倍。此外，我们引入了 BOOM，一个大型基准，覆盖 3500 万个观察值，包含 2807 个真实世界时间序列。对于 Toto 和 BOOM，我们仅来自 Datadog 自身遥测和内部可观测性指标的数据。广泛的评估表明，Toto 在 BOOM 和 established 的通用用途时间序列预测基准上实现了最先进的性能。Toto 的模型权重、推理代码和评估脚本，以及 BOOM 的数据和评估代码，均以 Apache 2.0 许可证发布，地址为 https://huggingface.co/Datadog/Toto-Open-Base-1.0 和 https://github.com/DataDog/toto。
引用
@article{arxiv.2505.14766,
title = {This Time is Different: An Observability Perspective on Time Series Foundation Models},
author = {Ben Cohen and Emaad Khwaja and Youssef Doubli and Salahidine Lemaachi and Chris Lettieri and Charles Masson and Hugo Miccinilli and Elise Ramé and Qiqi Ren and Afshin Rostamizadeh and Jean Ogier du Terrail and Anna-Monica Toon and Kan Wang and Stephan Xie and Zongzhe Xu and Viktoriya Zhukova and David Asker and Ameet Talwalkar and Othmane Abou-Amal},
journal= {arXiv preprint arXiv:2505.14766},
year = {2025}
}