面向高维数据的深度递归嵌入
摘要
t 分布随机邻域嵌入（t-SNE）是一种针对复杂高维数据的成熟可视化方法。然而，原始 t-SNE 方法是非参数的、随机的，且由于强调局部邻域，往往不能很好地保持数据的全局结构。以 t-SNE 为参考，我们提出将深度神经网络（DNN）与有数学依据的嵌入规则相结合用于高维数据嵌入。我们首先引入深度嵌入网络（DEN）框架，其可学习从高维空间到低维嵌入的参数化映射。DEN 具有灵活架构，可适应不同输入数据（向量、图像或张量）和损失函数。为提升嵌入性能，提出一种递归训练策略以利用 DEN 提取的潜在表示。最后，我们提出结合两种流行嵌入方法即 t-SNE 和一致流形逼近与投影（UMAP）优点的两阶段损失函数，以获得最优可视化效果。我们将所提方法命名为深度递归嵌入（DRE），其通过递归训练策略和两阶段损失对 DEN 进行优化。我们的实验证明了所提 DRE 方法在多种公开数据库上的高维数据嵌入优异性能。值得注意的是，我们的对比结果表明，所提 DRE 可改善全局结构保持。
引用
@article{arxiv.2104.05171,
title = {Deep Recursive Embedding for High-Dimensional Data},
author = {Zixia Zhou and Yuanyuan Wang and Boudewijn P. F. Lelieveldt and Qian Tao},
journal= {arXiv preprint arXiv:2104.05171},
year = {2022}
}
备注
Dear arXiv, We would like to withdraw this version, because it is in conflict with a later version uploaded and approved (arXiv:2111.00622). This version also contains some error: in Section 3.3, Eqn 1, a term p_{ij} is missing before log. We sincerely apologize and would like to withdraw to avoid any reader confusion. Sincerely, Zixia Zhou, Yuanyuan Wang, Boudewijn P.F. Lelieveldt, Qian Tao