混合对比学习：面向时间序列的自监督表示学习
机器学习
2022-03-18 v1 人工智能
机器学习
摘要
标注数据的缺乏是从时间序列数据学习有用表示的关键挑战。然而，一个能够产生高质量表示的无监督表示框架可能极具价值。它是实现迁移学习的关键，迁移学习尤其有益于医学应用，因为那里数据丰富但标注成本高且耗时。我们提出一种受标签平滑视角启发而来的无监督对比学习框架。所提方法使用一种新颖的对比损失，其自然地利用了一种数据增强方案：通过该方案，以混合分量混合两个数据样本来生成新样本。该框架中的任务是预测混合分量，其被用作损失函数中的软目标。实验证明了该框架在单变量与多变量时间序列上相对于其他表示学习方法的优越性能，并阐明了其在临床时间序列迁移学习中的益处。
引用
@article{arxiv.2203.09270,
title = {Mixing Up Contrastive Learning: Self-Supervised Representation Learning for Time Series},
author = {Kristoffer Wickstrøm and Michael Kampffmeyer and Karl Øyvind Mikalsen and Robert Jenssen},
journal= {arXiv preprint arXiv:2203.09270},
year = {2022}
}
备注
Published in Journal of Pattern Recognition Letters: https://www.sciencedirect.com/science/article/pii/S0167865522000502 Code available at: https://github.com/Wickstrom/MixupContrastiveLearning