流形上点云作为梯度流的 t-SNE 收敛性分析
机器学习
2024-02-01 v1 数据结构与算法
机器学习
摘要
我们提出了关于 t-SNE 算法有界性的理论基础。t-SNE 采用以 Kullback-Leibler (KL) 散度为目标函数的梯度下降迭代，旨在寻找一组与高维空间中原始数据点高度相似的点，并最小化 KL 散度。在对采样数据集作弱收敛假设的条件下，我们研究了 t-SNE 的困惑度与亲和性等性质，并考察了在连续梯度流下 t-SNE 生成点的行为。通过证明 t-SNE 生成的点保持有界，我们利用这一结论确立了 KL 散度极小值的存在性。
关键词
引用
@article{arxiv.2401.17675,
title = {Convergence analysis of t-SNE as a gradient flow for point cloud on a manifold},
author = {Seonghyeon Jeong and Hau-Tieng Wu},
journal= {arXiv preprint arXiv:2401.17675},
year = {2024}
}