一个波等于百个词:探究时间序列中的跨域迁移性
机器学习
2024-12-03 v1 人工智能
摘要
时间序列分析是数据挖掘的基本任务,基于经验风险最小化的监督训练方法在特定任务和数据集上已证明其有效性。然而,获取良好标注数据成本高昂,且大量未标注序列数据未得到充分利用。由于不同领域之间存在分布迁移且不同任务对多模式感兴趣,跨域多任务迁移的时间序列问题仍是一个显著的挑战。为解决这些问题,本文提出一种基于波形量化(称为 WQ4TS)的跨域预训练方法,可与任何先进的时间序列模型结合并应用于多个下游任务。具体而言,我们将来自不同领域的时间序列数据转换为常见的谱特征空间,使模型能够直接从该常见空间学习不同领域的时序模式知识,并用于下游任务的推断,从而缓解异构跨域迁移的挑战。谱特征空间的建立带来了至少三个好处:实现跨域迁移能力,从而适应零样本和少样本场景而无需依赖数据集的先验知识;通用且兼容跨域迁移的框架,不需要更改现有模型结构;具有鲁棒建模能力,从而在多个下游任务中实现 SOTA 成果。为证明所提出方法的有效性,我们进行了广泛的实验,包括三个重要任务:预测、插值和分类。模拟了三个常见的真实世界数据场景:全数据、少样本和零样本。WQ4TS 在所有任务中的 87.5% 上实现最佳性能,所有任务的指标平均提升幅度可达 34.7%。
引用
@article{arxiv.2412.00772,
title = {A Wave is Worth 100 Words: Investigating Cross-Domain Transferability in Time Series},
author = {Xiangkai Ma and Xiaobin Hong and Wenzhong Li and Sanglu Lu},
journal= {arXiv preprint arXiv:2412.00772},
year = {2024}
}