CaSS：一种用于多元时间序列分类的通道感知自监督表示学习框架
机器学习
2022-03-10 v1 人工智能
摘要
多元时间序列（MTS）的自监督表示学习是一项具有挑战性的任务，近年来吸引了越来越多的研究兴趣。许多先前工作聚焦于自监督学习的 pretext task（预训练任务），通常忽视了MTS编码的复杂问题，导致结果不尽如人意。本文从编码器与预训练任务两方面应对该挑战，并提出统一的通道感知自监督学习框架CaSS。具体而言，我们首先设计一种基于Transformer的新编码器通道感知Transformer（CaT），以捕获MTS不同时间通道间的复杂关系。其次，我们将两种新颖的预训练任务——下一趋势预测（NTP）与上下文相似性（CS）——与所提编码器结合用于自监督表示学习。我们在多个常用基准数据集上进行了充分实验。实验结果表明，我们的框架相比以往自监督MTS表示学习方法取得了新的最先进性能（在LSST数据集上提升达 +7.70%），并可良好应用于下游MTS分类。
引用
@article{arxiv.2203.04298,
title = {CaSS: A Channel-aware Self-supervised Representation Learning Framework for Multivariate Time Series Classification},
author = {Yijiang Chen and Xiangdong Zhou and Zhen Xing and Zhidan Liu and Minyang Xu},
journal= {arXiv preprint arXiv:2203.04298},
year = {2022}
}
备注
16 pages, 4 figures, DASFAA 2022