UMAP 中的吸引力形态：探索降维中的嵌入力

统一流形逼近与投影（UMAP）是最流行的近邻嵌入方法之一。该方法根据高维空间中的相似性对点索引对进行采样，并对其在低维嵌入中的坐标施加吸引力和排斥力。在本文中，我们分析了这些力以揭示其对簇形成和可视化的影响，并将 UMAP 与同类方法进行了比较。排斥力强调差异，控制簇边界和簇间距离。吸引力则更为微妙，因为点之间的吸引张力在低维映射中可以同时表现为吸引和排斥。这解释了学习率退火的需求，并激发了对吸引项和排斥项的不同处理。此外，通过修改吸引力，我们提高了随机初始化下簇形成的一致性。总体而言，我们的分析提供了对 UMAP 及相关嵌入方法的机制性理解。