利用深度神经网络实现图嵌入的可扩展样本外扩展
机器学习
2016-06-15 v3 机器学习
神经与进化计算
统计方法学
摘要
几种用于表示学习和降维的流行图嵌入技术依赖于计算代价高昂的特征分解来推导输入数据空间的非线性变换。所得的特征向量仅编码训练样本的嵌入坐标，因此对新数据样本的嵌入需要进一步昂贵的计算。在本文中，我们提出了一种利用深度神经网络（DNN）对图嵌入进行样本外扩展的方法，以参数化地逼近这些非线性映射。与传统的非参数样本外扩展方法相比，我们证明 DNN 能够以同等或更好的保真度进行泛化，并且在测试时所需的计算量减少数个数量级。此外，我们发现对 DNN 进行无监督预训练可以改善较大网络规模下的优化，从而消除对模型选择的敏感性。
引用
@article{arxiv.1508.04422,
title = {Scalable Out-of-Sample Extension of Graph Embeddings Using Deep Neural Networks},
author = {Aren Jansen and Gregory Sell and Vince Lyzinski},
journal= {arXiv preprint arXiv:1508.04422},
year = {2016}
}
备注
10 pages, 2 figures, 1 table, this paper is under consideration for publication in Pattern Recognition Letters