面向跨域的通用时间序列理解
机器学习
2025-02-03 v2 人工智能
计算机视觉与模式识别
摘要
近期在自然语言处理和计算机视觉领域的突破,主要是由在大型数据集上的高效预训练驱动,使基础模型在广泛的任务中取得优异成绩。然而,这一潜力在时间序列分析中尚未完全实现,因为现有方法未能解决大型时间序列语料库中的异构性问题。广泛存在于医学、金融等领域,时间序列在特征数量、特征间关系、时间模式和采样频率等方面差异巨大。为此,我们引入一种专为处理时间序列异构性而设计的新颖预训练范式。我们提出一种带有可学习领域签名的记号化器、双重掩码策略以及归一化交叉相关损失,使我们的开放模型用于通用时间序列分析(OTiS)能够高效地从大型时间序列语料库中学习。在多样化任务上的广泛基准测试表明,OTiS 在分类、回归和预测等任务上超越了前沿基线方法。我们的代码和预训练权重可在 https://github.com/oetu/otis 提供。
引用
@article{arxiv.2410.07299,
title = {Towards Generalisable Time Series Understanding Across Domains},
author = {Özgün Turgut and Philip Müller and Martin J. Menten and Daniel Rueckert},
journal= {arXiv preprint arXiv:2410.07299},
year = {2025}
}