Fisher 与核 Fisher 判别分析：教程
机器学习
2022-08-03 v2 机器学习
摘要
这是一篇详尽的教程论文，讲解 Fisher 判别分析（FDA）与核 FDA。我们从投影与重构开始。随后涵盖一维与多维 FDA 子空间。FDA 中两类与多类的散布矩阵得以解释。然后，我们讨论散布矩阵的秩与子空间维数。还提供了一个真实例子用于解释 FDA。接着讨论散布矩阵可能的奇异性以引入鲁棒 FDA。也比较了 PCA 与 FDA 方向。我们亦证明 FDA 与线性判别分析等价。Fisher 森林作为 Fisher 子空间集成被引入，有助于处理具有不同特征与维数的数据。之后，核 FDA 在一维与多维子空间及两类与多类情形下均得到解释。最后，在 AT&T 人脸数据集上进行了一些仿真以说明 FDA 并与 PCA 比较。
引用
@article{arxiv.1906.09436,
title = {Fisher and Kernel Fisher Discriminant Analysis: Tutorial},
author = {Benyamin Ghojogh and Fakhri Karray and Mark Crowley},
journal= {arXiv preprint arXiv:1906.09436},
year = {2022}
}
备注
v2: updated some sections, corrected some typos, and applied readers' feedback