重尾核在 t-SNE 可视化中揭示更精细的簇结构
机器学习
2020-07-20 v2 机器学习
摘要
T 分布随机近邻嵌入(t-SNE)是一种广泛使用的数据可视化技术。它与前身 SNE 的区别在于低维相似度核:高斯核被重尾 Cauchy 核取代,解决了 SNE 的“拥挤问题”。在此,我们为自由度 任意的 分布核开发了 t-SNE 的高效实现,其中 对应 SNE, 对应标准 t-SNE。通过理论分析和简单示例,我们表明 可进一步缓解拥挤问题,并揭示标准 t-SNE 中不可见的更精细簇结构。我们进一步在 MNIST、单细胞 RNA 测序数据和 HathiTrust 图书馆等大型真实数据集上展示了重尾核的显著效果。我们利用领域知识确认了所揭示的簇是有意义的。总体而言,我们认为修改 t-SNE 核的尾部重尾程度可以为数据的簇结构提供额外见解。
引用
@article{arxiv.1902.05804,
title = {Heavy-tailed kernels reveal a finer cluster structure in t-SNE visualisations},
author = {Dmitry Kobak and George Linderman and Stefan Steinerberger and Yuval Kluger and Philipp Berens},
journal= {arXiv preprint arXiv:1902.05804},
year = {2020}
}