采样并预测你的隐变量：基于对比估计的无模态顺序解耦
机器学习
2023-05-26 v1
摘要
无监督解耦是表示学习中的长期挑战。近来，自监督技术在时序（数据具有时间依赖性）设定中取得了令人印象深刻的成果。然而，后者方法采用基于模态的数据增强与随机采样，或求解辅助任务。本工作中，我们提出通过从底层变分模型生成、采样并比较经验分布来避免上述做法。与现有工作不同，我们引入了一种基于对比估计、无外部信号的自监督顺序解耦框架，同时使用常规批大小及来自隐空间本身的样本。实践中，我们提出了一种统一、高效且易于编码的采样策略，用于获取数据的语义相似与不相似视图。我们在视频、音频和时间序列基准上评估了我们的方法。与现有技术相比，我们的方法取得了最先进（state-of-the-art）的结果。代码见 https://github.com/azencot-group/SPYL。
引用
@article{arxiv.2305.15924,
title = {Sample and Predict Your Latent: Modality-free Sequential Disentanglement via Contrastive Estimation},
author = {Ilan Naiman and Nimrod Berman and Omri Azencot},
journal= {arXiv preprint arXiv:2305.15924},
year = {2023}
}
备注
Accepted to ICML 2023; The first two authors contributed equally