t 分布随机邻域嵌入的高效算法
机器学习
2019-02-26 v1 机器学习
摘要
t 分布随机邻域嵌入（t-SNE）是一种近年来广泛流行的降维与可视化方法。现有 t-SNE 的高效实现可扩展性差，难以应对数十万至数百万高维数据点的数据集。我们提出基于快速傅里叶变换加速的插值 t-SNE（FIt-SNE），显著加速 t-SNE 的计算。t-SNE 最耗时的步骤是一次卷积，我们通过插值到等间距网格并随后使用快速傅里叶变换执行卷积来加速该步骤。我们还利用多线程近似最近邻优化高维中输入相似度的计算。我们进一步提出对 t-SNE 的称为“后期夸大”的修改，以便更容易识别 t-SNE 嵌入中的簇。最后，对于无法载入内存的数据集，我们提出核外随机主成分分析（oocPCA），从而可在从不完整载入矩阵的情况下计算数据集的主成分，使得资源受限机器上也能计算大型数据集的 t-SNE。
引用
@article{arxiv.1712.09005,
title = {Efficient Algorithms for t-distributed Stochastic Neighborhood Embedding},
author = {George C. Linderman and Manas Rachh and Jeremy G. Hoskins and Stefan Steinerberger and Yuval Kluger},
journal= {arXiv preprint arXiv:1712.09005},
year = {2019}
}