MVMR-FS:基于最大类间差异与最小冗余的非参数特征选择算法
机器学习
2023-07-31 v1 人工智能
摘要
如何准确度量特征的相关性与冗余性是特征选择领域一个古老的挑战。然而,现有的基于过滤器的特征选择方法无法直接度量连续数据的冗余性。此外,大多数方法依赖于手动指定特征数量,在缺乏专家知识时可能引入误差。本文中,我们提出了一种基于最大类间差异与最小冗余的非参数特征选择算法,缩写为 MVMR-FS。我们首先在特征上引入有监督与无监督核密度估计,以捕捉其在类间与整体分布中的相似性与差异。随后,我们给出最大类间差异与最小冗余(MVMR)准则,其中类间概率分布用于反映特征相关性,整体概率分布之间的距离用于量化冗余。最后,我们采用 AGA 搜索使 MVMR 最小的特征子集。与十种最先进的方法相比,MVMR-FS 取得了最高的平均准确率,并将准确率提高了 5% 至 11%。
引用
@article{arxiv.2307.14643,
title = {MVMR-FS : Non-parametric feature selection algorithm based on Maximum inter-class Variation and Minimum Redundancy},
author = {Haitao Nie and Shengbo Zhang and Bin Xie},
journal= {arXiv preprint arXiv:2307.14643},
year = {2023}
}