UniCL：面向大型时间序列模型的通用对比学习框架
机器学习
2024-05-20 v1 人工智能
计算与语言
摘要
时间序列分析在金融、医疗等诸多关键应用中占据重要位置，涉及预测、分类等各种任务。为处理时间序列数据的内在复杂问题，如高维度和噪声，传统监督学习方法需要为每个任务对时间序列数据进行大规模标注，这在实际应用中成本高昂且不切实际。相比之下，预训练基础模型通过利用无标签数据捕获通用时间序列模式，为特定任务的微调提供了可行方案。然而，现有方法通常因使用固定且僵化的增强操作和领域特定数据训练，导致高偏差、低通用性。为克服这些限制，本文提出 UniCL，一个面向跨域数据集预训练时间序列基础模型的通用且可扩展的对比学习框架。具体而言，我们提出一种统一且可训练的时间序列增强操作，利用谱信息生成保留模式、多样且低偏差的时间序列数据。此外，引入可扩展的增强算法，处理各异长度的数据集，促进跨域预训练。在两个基准数据集上进行的十个领域的广泛实验验证了 UniCL 的有效性，表明其在各种领域的时间序列分析中具备高 generalization 能力。
引用
@article{arxiv.2405.10597,
title = {UniCL: A Universal Contrastive Learning Framework for Large Time Series Models},
author = {Jiawei Li and Jingshu Peng and Haoyang Li and Lei Chen},
journal= {arXiv preprint arXiv:2405.10597},
year = {2024}
}