基于增量互信息与蟑螂群优化的特征选择算法
人工智能
2024-08-27 v1
摘要
特征选择是一种降低数据维度的有效预处理技术。对于特征选择，粗糙集理论提供了许多度量，其中互信息是最重要的属性度量之一。然而，基于互信息的重要性度量计算代价高且不准确，尤其在超样本实例中，并且在高维超大规模数据集中无疑是 NP 难问题。尽管迄今已提出许多具有代表性的群智能算法特征选择策略以提高精度，但使用这些特征选择算法处理高维大规模数据集时仍存在瓶颈，即消耗大量性能且易选中弱相关与冗余特征。在本研究中，我们提出一种基于增量互信息的改进群智能优化方法(IMIICSO)，其利用粗糙集理论基于互信息计算特征选择的重要性。该方法提取决策表约简知识以引导群算法全局搜索。通过探究超样本互信息的计算，我们不仅能丢弃无用特征以加速内外计算，还能借助 IMIICSO 方法有效降低最优特征子集的基数，从而使基数经比较后最小化。基于增量互信息的改进蟑螂群算法所选特征子集的精度优于或几乎等同于原始群智能优化算法。使用源自 UCI 的 10 个数据集(包括大规模与高维数据集)进行的实验证实了所提算法的效率与有效性。
引用
@article{arxiv.2302.10522,
title = {Feature selection algorithm based on incremental mutual information and cockroach swarm optimization},
author = {Zhao and Chen},
journal= {arXiv preprint arXiv:2302.10522},
year = {2024}
}