基于拉普拉斯的簇收缩 t-SNE 高维数据可视化方法
机器学习
2022-10-25 v3 人机交互
摘要
降维技术旨在将高维数据表示在低维空间中，以提取隐藏且有用的信息，或便于对数据进行视觉理解与解释。然而，极少有方法考虑到高维数据中隐式包含的潜在簇信息。本文中，我们提出 LaptSNE，一种基于 t-SNE（将高维数据可视化为 2D 散点图的最佳技术之一）的新型图布局非线性降维方法。具体而言，LaptSNE 利用图拉普拉斯的特征值信息，在学习从高维空间到低维空间保持局部与全局结构时，收缩低维嵌入中的潜在簇。由于归一化对称拉普拉斯的特征值是决策变量的函数，所提模型的非平凡求解十分困难。我们提供了一种具收敛保证的极大极小化算法来求解 LaptSNE 的优化问题，并展示了如何解析计算梯度，这在考虑具拉普拉斯复合目标的优化时可能具有广泛意义。我们在七个基准数据集上通过形式化对比与 SOTA 方法评估了本方法，包括视觉上与已建立的定量度量。结果证明了我们的方法相对于 t-SNE 和 UMAP 等基线的优越性。我们还为 LaptSNE 提供了样本外扩展、大规模扩展和小批量扩展，以便利各种场景下的降维。
引用
@article{arxiv.2207.12214,
title = {Laplacian-based Cluster-Contractive t-SNE for High Dimensional Data Visualization},
author = {Yan Sun and Yi Han and Jicong Fan},
journal= {arXiv preprint arXiv:2207.12214},
year = {2022}
}