吸引-排斥群集:通过力归一化和可调相互作用实现t-SNE的广义框架
机器学习
2024-11-19 v1 人工智能
数值分析
经典分析与常微分方程
动力系统
数值分析
机器学习
摘要
我们提出了一种基于吸引-排斥群集(ARS)动力学的新数据可视化方法,称之为ARS可视化。ARS是一个广义框架,其基础是将t分布随机邻域嵌入(t-SNE)可视化技术视为一个由吸引和排斥驱动的相互作用智能体群。受群集领域最新发展的启发,我们修改了t-SNE动力学,加入了按总影响力进行的归一化,从而得到了更适定的动力学,其中我们可以使用与数据大小无关的时间步长()和简单的迭代,而无需t-SNE中使用的各种优化技巧。ARS还具备分别调节吸引核和排斥核的能力,这使用户能够控制可视化中簇内的紧密度和簇间的间距。与t-SNE相比,我们提出的ARS数据可视化方法不是对Kullback-Leibler散度的梯度下降,而可以纯粹地视为一个由吸引力和排斥力驱动的相互作用粒子系统。我们提供了理论结果,阐述了相互作用核的选择如何影响动力学,并给出了实验结果来验证我们的方法,并在MNIST和Cifar-10数据集上与t-SNE进行了比较。
引用
@article{arxiv.2411.10617,
title = {Attraction-Repulsion Swarming: A Generalized Framework of t-SNE via Force Normalization and Tunable Interactions},
author = {Jingcheng Lu and Jeff Calder},
journal= {arXiv preprint arXiv:2411.10617},
year = {2024}
}