随机投影线性判别器集成体的渐近分析
机器学习
2020-04-20 v1 机器学习
摘要
来自生物信息学、化学计量学和人脸识别领域的数据集通常以小样本高维数据为特征。在为解决此类环境下分类问题而提出的众多线性判别分析变体中，文献[1]中由随机投影线性判别器集成体构成的分类器似乎尤其有前景；它计算高效，并且在最优投影维度参数设置下与最先进水平(state-of-the-art)具有竞争力。在这项工作中，我们试图通过渐近分析进一步理解该分类器的行为。在数据集与投影维度以恒定比率相互增长的渐进 regime 假设下，我们利用随机矩阵理论推导渐近误分类概率，展示了该集成体作为数据样本协方差矩阵正则化的效应。这些渐近误差进一步有助于识别该集成体提供性能优势的情形。我们还开发了一种误分类概率的一致估计量，作为传统上用于参数调优的计算代价高昂的交叉验证估计量的替代方案。最后，我们在真实与合成数据上展示了使用我们的估计量来调优投影维度。
引用
@article{arxiv.2004.08217,
title = {Asymptotic Analysis of an Ensemble of Randomly Projected Linear Discriminants},
author = {Lama B. Niyazi and Abla Kammoun and Hayssam Dahrouj and Mohamed-Slim Alouini and Tareq Y. Al-Naffouri},
journal= {arXiv preprint arXiv:2004.08217},
year = {2020}
}