面向可观测性的时间序列优化 Transformer 模型
机器学习
2024-07-12 v2 人工智能
摘要
本技术报告描述了用于时间序列预测的 Datadog 开发的 Time Series Optimized Transformer for Observability（Toto），这是一种新的领先基石模型。除了在电力和天气等领域的通用时间序列基准测试中取得领先成绩外，Toto 是目前所有已发布时间序列基石模型中第一个专为可观测性指标优化的通用时间序列预测模型。Toto 训练的数据集包含一万亿个时间序列数据点，规模最大，超过了所有当前已发布的时间序列基石模型。除了公开的时间序列数据集外，Toto 使用的 75% 数据来自 Datadog 平台的完全匿名数值指标数据。在我们的实验中，Toto 在可观测性数据上优于现有时间序列基石模型，同时在通用预测任务中也表现出色，在多个开放基准数据集上实现了领先的零样本性能。
关键词
引用
@article{arxiv.2407.07874,
title = {Toto: Time Series Optimized Transformer for Observability},
author = {Ben Cohen and Emaad Khwaja and Kan Wang and Charles Masson and Elise Ramé and Youssef Doubli and Othmane Abou-Amal},
journal= {arXiv preprint arXiv:2407.07874},
year = {2024}
}