非平衡设置下二次判别分析分类器的改进设计
机器学习
2020-09-15 v3 机器学习
摘要
由于二次判别分析（QDA）或其正则化版本（R-QDA）对协方差矩阵估计噪声的高敏感性这一公认缺陷，通常不推荐将其用于分类。在非平衡数据设置下这一问题更为突出，已有研究发现 R-QDA 会退化为将所有观测都判给同一类的分类器。本文提出一种改进的 R-QDA，其基于两个正则化参数和一个修正偏置，经适当选取以避免 R-QDA 在非平衡设置下的不当行为，并确保尽可能最佳的分类性能。所提分类器的设计建立在其性能精细渐近分析之上，该分析考虑样本数与特征数同时趋于很大的情形，从而能有效应对大数据范式下常见的高维问题。所提分类器在真实与合成数据集上的性能均得到评估，并显示出远优于传统 R-QDA 预期的表现。
引用
@article{arxiv.2006.06355,
title = {Improved Design of Quadratic Discriminant Analysis Classifier in Unbalanced Settings},
author = {Amine Bejaoui and Khalil Elkhalil and Abla Kammoun and Mohamed Slim Alouni and Tarek Al-Naffouri},
journal= {arXiv preprint arXiv:2006.06355},
year = {2020}
}
备注
10 pages, 5 figures