NOMAD投影
机器学习
2025-05-22 v1
摘要
生成式AI的快速采用推动了AI模型消费和产生的数据集规模的爆炸式增长。传统的非结构化数据可视化方法，如t-SNE和UMAP，未能跟上数据集扩展的步伐。这对AI可解释性构成了重大挑战，因为AI可解释性依赖于t-SNE和UMAP等方法进行探索性数据分析。在本文中，我们引入了负或均值亲和力判别(NOMAD)投影，这是首个能够在训练时于多GPU上运行的非结构化数据可视化方法，通过非线性降维实现。我们提供了理论，将NOMAD投影定位为InfoNC-t-SNE损失的近似上界，并给出了实证结果，展示了NOMAD投影在性能和速度方面相对于现有最先进方法的优越表现。我们通过计算第一个完整的多语言维基百科数据图，展示了NOMAD投影的可扩展性。
引用
@article{arxiv.2505.15511,
title = {NOMAD Projection},
author = {Brandon Duderstadt and Zach Nussbaum and Laurens van der Maaten},
journal= {arXiv preprint arXiv:2505.15511},
year = {2025}
}