面向时间序列数据的自监督自回归域自适应
机器学习
2022-07-19 v2
摘要
无监督域自适应(UDA)已成功解决视觉应用中的域偏移问题。然而,由于以下原因,这些方法对时间序列数据的性能可能有限。首先,它们主要依赖大规模数据集(即ImageNet)进行源预训练,这不适用于时间序列数据。其次,它们在域对齐步骤中忽略了源域和目标域特征空间上的时间维度。最后,大多数先前的UDA方法只能对齐全局特征而未考虑目标域的细粒度类别分布。为解决这些局限,我们提出了一种自监督自回归域自适应(SLARDA)框架。具体而言,我们首先设计了一个自监督学习模块,利用预测作为辅助任务以提升源特征的可迁移性。其次,我们提出了一种新颖的自回归域自适应技术,在域对齐过程中纳入源和目标特征的时间依赖性。最后,我们开发了集成教师模型,通过置信伪标注方法对齐目标域中的类别级分布。我们在三个真实世界时间序列应用及30个跨域场景上进行了大量实验。结果表明,我们提出的SLARDA方法在时间序列域自适应上显著优于最先进的方法。
引用
@article{arxiv.2111.14834,
title = {Self-supervised Autoregressive Domain Adaptation for Time Series Data},
author = {Mohamed Ragab and Emadeldeen Eldele and Zhenghua Chen and Min Wu and Chee-Keong Kwoh and Xiaoli Li},
journal= {arXiv preprint arXiv:2111.14834},
year = {2022}
}
备注
Accepted for publication in IEEE Transactions on Neural Networks and Learning Systems