具有任意类别数的稀疏线性判别分析的渐近最优性
统计理论
2015-08-06 v1 统计理论
摘要
许多稀疏线性判别分析 (LDA) 方法被提出,以克服经典 LDA 在高维环境下的主要问题。然而,渐近最优性结果仅限于仅有两个类别的情况,这是因为 LDA 的分类边界是超平面,且此情形下分类误差存在显式公式。在类别多于两个的情况下,分类边界通常复杂,且不存在分类误差的显式公式。在本文中,我们在多元正态分布情形下,考虑了具有高维环境中任意类别数的大类线性分类规则的渐近最优性。我们的主要定理为该类中的一般分类规则在维数和样本量均趋于无穷且类别数任意时的渐近最优性提供了易于检验的准则。我们建立了相应的收敛速率。该一般理论被应用于经典 LDA 以及两种最近提出的稀疏 LDA 方法的扩展,以获得渐近最优性。我们在不同设置下对扩展方法进行了模拟研究。
引用
@article{arxiv.1508.01131,
title = {Asymptotic optimality of sparse linear discriminant analysis with arbitrary number of classes},
author = {Ruiyan Luo and Xin Qi},
journal= {arXiv preprint arXiv:1508.01131},
year = {2015}
}