一种利用三元组实现更高全局精度的降维方法
机器学习
2018-03-05 v1
摘要
我们首先表明，常用的降维（DR）方法（如 t-SNE 和 LargeVis）在低维嵌入中较差地捕捉了数据的全局结构。我们通过一系列针对 DR 方法的测试展示了这一点，任何从业者都可以轻松将其应用于手头的数据集。令人惊讶的是，t-SNE 在常用于奖励局部邻域精度的度量（如 precision-recall）上表现最佳，而在我们的全局结构测试中表现最差。然后，我们将这两种 DR 方法的性能与我们称为 TriMap 的新方法进行对比。TriMap 背后的核心思想是利用三元组信息（而非 t-SNE 和 LargeVis 所使用的成对信息）捕捉更高阶的结构，并最小化一个鲁棒损失函数以满足所选三元组。我们在大型自然数据集上提供了令人信服的实验证据，表明 TriMap 降维结果具有明显优势。与 LargeVis 一样，TriMap 的计算复杂度随数据点数量线性增长。
引用
@article{arxiv.1803.00854,
title = {A more globally accurate dimensionality reduction method using triplets},
author = {Ehsan Amid and Manfred K. Warmuth},
journal= {arXiv preprint arXiv:1803.00854},
year = {2018}
}