谱时间对比学习
机器学习
2023-12-11 v2 人工智能
摘要
学习有用的数据表示而不需要标签是现代深度学习的基石。自监督学习方法，特别是对比学习（CL），通过利用数据增强来定义正样本对，已被证明是成功的。这一成功促使了许多理论研究，以更好地理解CL并研究下游线性探测任务的理论界限。本文关注的是时间对比学习（TCL）设置，其中使用数据的序列结构来定义正样本对，这在强化学习和机器人领域更为常见。在本文中，我们改编了最近关于谱对比学习（Spectral CL）的工作，以提出谱时间对比学习（Spectral Temporal Contrastive Learning, STCL）。我们讨论了一个基于状态图的总体损失，该状态图源自一个时间齐次可逆马尔可夫链，具有均匀平稳分布。STCL损失能够将线性探测性能与图的谱性质联系起来，并且可以通过将先前观察到的数据序列视为MCMC链的集成来估计。
引用
@article{arxiv.2312.00966,
title = {Spectral Temporal Contrastive Learning},
author = {Sacha Morin and Somjit Nath and Samira Ebrahimi Kahou and Guy Wolf},
journal= {arXiv preprint arXiv:2312.00966},
year = {2023}
}
备注
Accepted to Self-Supervised Learning - Theory and Practice, NeurIPS Workshop, 2023