Fisher 线性判别分析的渐近泛化界

Fisher 线性判别分析 (FLDA) 是统计模式识别中一种重要的降维方法。已有研究表明，在同方差高斯假设下，FLDA 是渐近贝叶斯最优的。然而，这一经典结果存在以下两个主要局限性：1) 它仅适用于固定维度 $D$，因此当 $D$ 与训练样本量 $N$ 成比例增大时不再适用；2) 它未能定量描述 $D$ 和 $N$ 如何影响 FLDA 的泛化能力。在本文中，基于随机矩阵理论，我们在 $D$ 和 $N$ 同时增加且 $D/N\longrightarrow\gamma\in[0,1)$ 的设置下，提出了 FLDA 的渐近泛化分析。所获得的泛化判别能力下界克服了经典结果的这两个局限性，即它适用于 $D$ 和 $N$ 成比例增大的情况，并根据比率 $\gamma=D/N$ 和总体判别能力提供了对 FLDA 泛化能力的定量描述。此外，该判别能力界还导出了使用 FLDA 进行二分类的泛化误差上界。