湍流动力学:通过谱对齐在对比学习中线性可分性的涌现
数值分析
2026-05-19 v2 数值分析
摘要
对比学习能够在充满劣质解的损失景观中有效聚类数据,这一成功与数据增强的选择密切相关。如何持续找到有意义的模式仍是一个开放问题。我们表明,这一成功源于训练动力学而非损失函数本身。关键的是,在数据增强的连通性和方差具有特定结构假设的条件下,我们证明了一旦达到临界谱对齐阈值,数据特征必然且迅速地分离为 distinct cluster。我们为离散数据集和宏观连续极限建立了此机制,模型潜在动力学作为 Wasserstein 梯度流,以显示这种分离随数据点数的无限接近而持久。我们假设自然的训练动力学本身会驱动系统趋向于此临界状态。我们在四个多样化领域(合成形状、图像、文本和 PDE)中广泛验证了这一点。在每个设置中,都有一个在数据分离之前的锐利增加,这一谱量量值 consistent 前置,揭示了对比学习的成功受制于与底层增强结构紧密耦合的动态涌现的触发器。
关键词
引用
@article{arxiv.2503.10812,
title = {Dynamics Over Landscape: The Emergence of Linear Separability via Spectral Alignment in Contrastive Learning},
author = {Jeff Calder and Wonjun Lee},
journal= {arXiv preprint arXiv:2503.10812},
year = {2026}
}
备注
58 pages