中文

吸引-排斥群集:通过力归一化和可调相互作用实现t-SNE的广义框架

机器学习 2024-11-19 v1 人工智能 数值分析 经典分析与常微分方程 动力系统 数值分析 机器学习

摘要

我们提出了一种基于吸引-排斥群集(ARS)动力学的新数据可视化方法,称之为ARS可视化。ARS是一个广义框架,其基础是将t分布随机邻域嵌入(t-SNE)可视化技术视为一个由吸引和排斥驱动的相互作用智能体群。受群集领域最新发展的启发,我们修改了t-SNE动力学,加入了按总影响力进行的归一化,从而得到了更适定的动力学,其中我们可以使用与数据大小无关的时间步长(h=1h=1)和简单的迭代,而无需t-SNE中使用的各种优化技巧。ARS还具备分别调节吸引核和排斥核的能力,这使用户能够控制可视化中簇内的紧密度和簇间的间距。与t-SNE相比,我们提出的ARS数据可视化方法不是对Kullback-Leibler散度的梯度下降,而可以纯粹地视为一个由吸引力和排斥力驱动的相互作用粒子系统。我们提供了理论结果,阐述了相互作用核的选择如何影响动力学,并给出了实验结果来验证我们的方法,并在MNIST和Cifar-10数据集上与t-SNE进行了比较。

关键词

引用

@article{arxiv.2411.10617,
  title  = {Attraction-Repulsion Swarming: A Generalized Framework of t-SNE via Force Normalization and Tunable Interactions},
  author = {Jingcheng Lu and Jeff Calder},
  journal= {arXiv preprint arXiv:2411.10617},
  year   = {2024}
}