面向高维数据的深度递归嵌入
机器学习
2022-08-19 v2 人机交互
摘要
将高维数据嵌入到低维流形上兼具理论价值与实用价值。本文提出将深度神经网络(DNN)与数学引导的嵌入规则相结合用于高维数据嵌入。我们引入一个通用深度嵌入网络(DEN)框架,其能够在 Kullback-Leibler(KL)散度最小化等成熟目标引导下,学习从高分维空间到低维空间的参数化映射。我们进一步提出一种称为深度递归嵌入(DRE)的递归策略,以利用潜数据表示提升嵌入性能。我们通过不同架构与损失函数示例化 DRE 的灵活性,并将我们的方法与两种最流行的嵌入方法——即 t 分布随机邻域嵌入(t-SNE)与一致流形逼近与投影(UMAP)——进行基准比较。所提 DRE 方法可映射样本外数据并扩展到极大型数据集。在一系列公开数据集上的实验表明,相较于其他最先进嵌入方法,其在局部与全局结构保持方面取得了改进的嵌入性能。
引用
@article{arxiv.2111.00622,
title = {Deep Recursive Embedding for High-Dimensional Data},
author = {Zixia Zhou and Xinrui Zu and Yuanyuan Wang and Boudewijn P. F. Lelieveldt and Qian Tao},
journal= {arXiv preprint arXiv:2111.00622},
year = {2022}
}
备注
arXiv admin note: substantial text overlap with arXiv:2104.05171