时间序列的自监督学习：对比式还是生成式？
机器学习
2024-03-18 v1 人工智能
新兴技术
摘要
自监督学习(SSL)最近已成为从大规模无标注数据中学习表示的一种强大方法，在时间序列分析中显示出有希望的结果。自监督表示学习可分为两大主流：对比式和生成式。在本文中，我们将对时间序列中的对比式与生成式方法进行全面的比较研究。我们首先分别介绍对比式和生成式SSL的基本框架，并讨论如何获得指导模型优化的监督信号。然后，我们为每种类型实现了经典算法(SimCLR vs. MAE)，并在公平设置下进行比较分析。我们的结果深入揭示了每种方法的优缺点，并为选择合适SSL方法提供了实用建议。我们还讨论了我们的发现对更广泛的表示学习领域的启示，并提出了未来的研究方向。所有代码和数据均发布于\url{https://github.com/DL4mHealth/SSL_Comparison}。
引用
@article{arxiv.2403.09809,
title = {Self-Supervised Learning for Time Series: Contrastive or Generative?},
author = {Ziyu Liu and Azadeh Alavi and Minyi Li and Xiang Zhang},
journal= {arXiv preprint arXiv:2403.09809},
year = {2024}
}
备注
Published at the AI4TS Workshop, IJCAI 2023