利用隔离核提升随机邻域嵌入的效果与效率
机器学习
2024-01-30 v3 人工智能
计算机视觉与模式识别
机器学习
摘要
本文提出一种新见解：通过使用隔离核(Isolation kernel)替代高斯核来提升随机邻域嵌入(t-SNE)的性能。隔离核在两方面的表现优于高斯核。首先，在 t-SNE 中使用隔离核克服了误表示数据中某些结构的缺陷，该缺陷常出现于 t-SNE 应用高斯核时。这是因为高斯核仅基于单个局部点确定各局部带宽，而隔离核由基于空间划分的数据直接导出。其次，使用隔离核带来更高效的相似度计算，因为数据依赖的隔离核仅有一个需调参的参数。相比之下，使用数据无关的高斯核需为 n 个点的数据集确定 n 个带宽，增加了计算成本。由于 t-SNE 这些缺陷的根本原因在于高斯核，我们表明仅需将 t-SNE 中的高斯核替换为隔离核，即可显著提升最终可视化输出质量(且不产生误表示结构)，并消除阻碍 t-SNE 处理大规模数据集的一个关键障碍。此外，隔离核使 t-SNE 能以更短运行时间处理大规模数据集且不牺牲精度，不同于现有加速 t-SNE 的方法。
引用
@article{arxiv.1906.09744,
title = {Improving the Effectiveness and Efficiency of Stochastic Neighbour Embedding with Isolation Kernel},
author = {Ye Zhu and Kai Ming Ting},
journal= {arXiv preprint arXiv:1906.09744},
year = {2024}
}