Roweis 判别分析：一种广义子空间学习方法
机器学习
2021-11-02 v1 计算机视觉与模式识别
机器学习
摘要
我们提出一种基于特征值与广义特征值问题推广子空间学习的新方法。该方法称为 Roweis 判别分析 (RDA)，以 Sam Roweis 命名，子空间学习领域对他深为感激。RDA 是无限多算法的族，其中主成分分析 (PCA)、监督 PCA (SPCA) 与 Fisher 判别分析 (FDA) 均为特例。我们命名为双重监督判别分析 (DSDA) 的极端特例使用了标签两次；它是新颖的且未见于他处。我们对 RDA 在某些特例下提出对偶形式。我们还利用对偶 RDA 与表示论提出核 RDA，推广核 PCA、核 SPCA 与核 FDA。我们的理论分析解释了先前已知的事实，例如为何 SPCA 可使用回归而 FDA 不能、为何 PCA 与 SPCA 有对偶而 FDA 没有、为何核 PCA 与核 SPCA 使用核技巧而核 FDA 不使用，以及为何 PCA 是重构的最佳线性方法。我们也提出 Roweisfaces 与核 Roweisfaces，推广 eigenfaces、Fisherfaces、监督 eigenfaces 及其核变体。我们还报告了在一些基准数据集上显示 RDA 与核 RDA 有效性的实验。
引用
@article{arxiv.1910.05437,
title = {Roweis Discriminant Analysis: A Generalized Subspace Learning Method},
author = {Benyamin Ghojogh and Fakhri Karray and Mark Crowley},
journal= {arXiv preprint arXiv:1910.05437},
year = {2021}
}
备注
This is the paper for the methods Roweis Discriminant Analysis (RDA), dual RDA, kernel RDA, and Roweisfaces. This is in memory of Sam Roweis (rest in peace) to whom subspace and manifold learning owes significantly