eMargin：基于间隔的对比学习绕过

我们重新审视以前的对比学习框架，以探讨引入自适应间隔到对比损失函数中以进行时间序列表示学习的效果。具体而言，我们探讨了一种基于预定义相似性阈值的自适应间隔（eMargin）是否可以提高相邻但不相似的时间步骤之间的分离度，从而在下游任务中实现更好的性能。我们的研究在三个基准数据集上评估了这一修改对聚类性能和分类的影响。我们的发现表明，达到高分数的无监督聚类指标并不一定意味着所学表示是有意义的或在下游任务中有效。具体而言，eMargin 添加到 InfoNCE 在无监督聚类指标上 consistently 优于最先进的基线，但在使用线性探针进行下游分类时难以实现有竞争力的效果。该源代码已公开于 https://github.com/sfi-norwai/eMargin。