中文

重尾核在 t-SNE 可视化中揭示更精细的簇结构

机器学习 2020-07-20 v2 机器学习

摘要

T 分布随机近邻嵌入(t-SNE)是一种广泛使用的数据可视化技术。它与前身 SNE 的区别在于低维相似度核:高斯核被重尾 Cauchy 核取代,解决了 SNE 的“拥挤问题”。在此,我们为自由度 ν\nu 任意的 tt 分布核开发了 t-SNE 的高效实现,其中 ν\nu\to\infty 对应 SNE,ν=1\nu=1 对应标准 t-SNE。通过理论分析和简单示例,我们表明 ν<1\nu<1 可进一步缓解拥挤问题,并揭示标准 t-SNE 中不可见的更精细簇结构。我们进一步在 MNIST、单细胞 RNA 测序数据和 HathiTrust 图书馆等大型真实数据集上展示了重尾核的显著效果。我们利用领域知识确认了所揭示的簇是有意义的。总体而言,我们认为修改 t-SNE 核的尾部重尾程度可以为数据的簇结构提供额外见解。

关键词

引用

@article{arxiv.1902.05804,
  title  = {Heavy-tailed kernels reveal a finer cluster structure in t-SNE visualisations},
  author = {Dmitry Kobak and George Linderman and Stefan Steinerberger and Yuval Kluger and Philipp Berens},
  journal= {arXiv preprint arXiv:1902.05804},
  year   = {2020}
}