谱降维、最大方差展开与半定规划核学习的统一框架:教程与综述
机器学习
2022-08-04 v2 计算机视觉与模式识别
机器学习
摘要
这是一篇关于谱降维方法、基于半定规划(SDP)的核学习、最大方差展开(MVU)或半定嵌入(SDE)及其变体的统一教程与综述论文。我们首先解释谱降维方法如何被统一为具有不同核的核主成分分析(PCA)。这种统一可解释为以距离矩阵表示核的特征函数学习或核表示。接着,由于谱方法被统一为核 PCA,我们提出学习最佳核以将数据流形展开至其最大方差。我们首先简要介绍用于转导任务的 SDP 核学习,然后详细阐述 MVU。解释了使用最近邻图、按类展开、基于 Fisher 准则以及彩色 MVU 的各种监督 MVU 版本。我们还解释了利用特征函数与核映射的 MVU 样本外扩展。最后,我们介绍了 MVU 的其他变体,包括动作保持嵌入、松弛 MVU 以及用于大数据的关键点 MVU。
引用
@article{arxiv.2106.15379,
title = {Unified Framework for Spectral Dimensionality Reduction, Maximum Variance Unfolding, and Kernel Learning By Semidefinite Programming: Tutorial and Survey},
author = {Benyamin Ghojogh and Ali Ghodsi and Fakhri Karray and Mark Crowley},
journal= {arXiv preprint arXiv:2106.15379},
year = {2022}
}
备注
To appear as a part of an upcoming textbook on dimensionality reduction and manifold learning. v2: corrected some typos